《神经机器翻译：基础、原理、实践与进阶》[69M]百度网盘|pdf下载|亲测有效

产品特色

编辑推荐

适读人群：本书适合高等院校计算机专业高年级本科生，以及人工智能、自然语言处理方向的研究生阅读，也可供机器翻译研究者、实践者、使用者，以及机器翻译行业的管理者、人工翻译研究人员等对机器翻译技术感兴趣的读者参考。

√ 探索神经机器翻译的理论基础、经典算法、原理技术、实践方法与前沿进展
√ 揭示隐藏于不同机器翻译研究范式背后的科学问题
√ 开启理解机器翻译技术的全新视角

√ 技术与短评双主线叙事，不止于技术

除了算法、模型、公式，本书特别撰写了20 篇短评，串起神经机器翻译技术背后的历史、故事、思想、哲学、争议和规范等。例如：

统计与规则的竞争

- 自然语言处理之经验主义与理性主义

- 卷积神经机器翻译——实用性倒逼技术创新

- 超参数设置——自动优化与实验可复现性

- 机器翻译工业部署

- 神经机器翻译达到人类同等水平了吗？

- 神经机器翻译是疯子吗？兼谈其‘幻想’

- 预训练技术争议与语言符号奠基问题

短评串联不同技术及同一技术的不同发展阶段，更好地介绍技术背后的思想、争议及发展原因。为机器翻译研究者、实践者、使用者、爱好者和旁观者等提供理解机器翻译技术的新视角！

内容简介

机器翻译是计算机科学与语言学交叉形成的最早的研究方向，是自然语言处理技术的重要发源地。本书聚焦新一代机器翻译技术——神经机器翻译，系统梳理和介绍神经机器翻译的核心方法和前沿研究课题。全书分为基础篇、原理篇、实践篇和进阶篇，覆盖神经机器翻译的基础知识、经典框架、原理技术、实践方法与技巧，以及无监督神经机器翻译、多语言神经机器翻译、语音与视觉多模态机器翻译等前沿研究方向。全书理论与实践相结合，基础与前沿相交映。

除此之外，本书的一个特色是在每一章均附有一篇短评，针对相应章节的主题，介绍和评论神经机器翻译技术背后的历史、故事、思想、哲学、争议和规范等。短评与全书内容相交错，使读者对神经机器翻译技术不仅知其然，而且知其所以然。

本书适合高等院校计算机专业高年级本科生，以及人工智能、自然语言处理方向的研究生阅读，也可供机器翻译研究者、实践者、使用者，以及机器翻译行业的管理者、人工翻译研究人员等对机器翻译技术感兴趣的读者参考。

作者简介

熊德意

天津大学智能与计算学部教授、博士生导师、自然语言处理实验室负责人，天津大学“语言智能与技术”中外联合研究中心主任，天津大学-中译语通自然语言处理联合实验室主任、中译语通人工智能首席科学家。主要研究方向为自然语言处理，特别专注于机器翻译、对话、问答、自然语言生成、常识推理、认知计算等方向的研究。在Computational Linguistics、IEEE TPAMI、AI、AAAI、ACL等国际著名期刊和会议上发表论文100余篇，在Springer出版英文专著一部。获得国家自然科学基金优秀青年科学基金、国家重点研发计划“政府间国际科技合作创新合作”重点专项、英国皇家学会牛顿高级学者基金等资助。获得新加坡资讯通信研究院2008年年度研究贡献奖、北京市科学技术奖二等奖、中文信息学会“钱伟长中文信息处理科学技术奖-汉王青年创新奖”一等奖等奖项。曾是亚洲自然语言处理联合会AFNLP干事、新加坡中文与东方语文信息处理学会理事会成员，目前是中国中文信息学会理事。担任IALP 2012&2021程序委员会共同主席，CWMT 2017程序委员会共同主席，欧盟多国联合项目QTLeap咨询专家，ACL、EMNLP、NAACL、COLING等多个知名国际会议领域主席，以及TACL和ARR的Action Editor等。

李良友

华为诺亚FANGZHOU实验室研究员、机器翻译团队负责人。在欧盟玛丽居里项目资助下，于2017年获得都柏林城市大学计算机博士学位。主要研究方向为自然语言处理，特别专注于机器翻译相关技术领域的研发。在ACL、EMNLP等多个国际著名会议和期刊上发表论文10余篇，并担任ACL、EMNLP等国际会议领域主席和会议审稿人。

张檬

华为诺亚FANGZHOU实验室研究员。于2018年获得清华大学计算机科学与技术系博士学位。主要研究方向为机器翻译和跨语言自然语言处理。在ACL、EMNLP、AAAI、TASLP等国际著名会议和期刊上发表论文10余篇。曾获中国中文信息学会优秀博士学位论文提名奖。担任ACL、EMNLP、AAAI、IJCAI等多个知名国际会议审稿人。

内页插图

精彩书评

机器翻译是人工智能的一个缩影，神经机器翻译的诞生是人工智能的一个飞跃。本书深入浅出，系统地介绍了神经机器翻译的理论与实践，每一章节都有作者对问题的精辟见解和深入思考。本书是了解机器翻译和自然语言处理的一本难得佳作。

李海洲

IEEE Fellow，新加坡工程院院士，新加坡国立大学终身教授

熊德意教授是机器翻译领域业界的知名专家，他和李良友、张檬两位博士一起撰写的《神经机器翻译》一书，是想学习和了解机器翻译技术进展的读者都应该阅读的好书。本书的基础、原理、实践、进阶四个篇章，为不同背景和不同需求的读者提供了完整的学习材料。书中不仅详述了神经机器翻译的模型、算法等技术，还介绍了背后的思想和历史的演进。这是只有一直走在领域前沿并不断进行理论和实践探索的人才能写出的佳作。

李航

ACL Fellow、IEEE Fellow、字节跳动AI Lab Director

语言数据是数字科技的关键要素，是数字经济时代的生产力。阅读本书，对此会有更为理性的认识。

李宇明

中文信息学会原副理事长

神经机器翻译虽然出现时间不长，但以其优异的性能迅速改变了机器翻译的面貌，成为机器翻译的主流技术，并大大拓宽了机器翻译技术的应用边界。本书是一部专门介绍神经机器翻译技术的著作，由浅入深地介绍了机器翻译的方方面面，非常适合各个层次的机器翻译研究者阅读。本书的作者熊德意是天津大学教授，是机器翻译领域的知名学者，其研究工作在国际学术界非常有影响力，李良友和张檬都是华为诺亚FANGZHOU实验室的研究员，多年在机器翻译领域一线工作，不仅研究做得非常出色，而且有着开发企业级大型机器翻译系统的丰富的经验。他们对于机器翻译的深刻理解和实战经验，可以确保这本书的质量和水准。本书非常有特色的一点是每一章后面都附有一个小节的“短评”，将机器翻译各项技术背后的思想、争议、发展演变过程娓娓道来，让读者不仅可以了解这些技术本身，也可以更好地了解这些技术背后的故事，非常精彩。强烈建议阅读此书，相信读者们一定会受益匪浅！

刘群

华为诺亚FANGZHOU实验室语音语义首席科学家

现代意义的人工智能研究20世纪50年代初发端于机器翻译。当前这一次席卷全球的人工智能大潮在机器认知任务上取得突破也肇始于神经机器翻译。本书洋洋洒洒计二十章，俨然一部神经机器翻译的百科全书，同时还是一本技术深度指南。一卷在手，可起到机器翻译“传道、授业、解惑”之效，以其昭昭，使人昭昭。此外，我非常喜欢每章后的短评，海阔天空，信手拈来，很有启发性。

孙茂松

清华大学人工智能研究院常务副院长、欧洲科学院外籍院士

本书是了解机器翻译技术的一本全新专著。自然语言处理是人工智能皇冠上的一颗明珠，而机器翻译则是自然语言处理技术的演兵场。过去六十年，机器翻译催生并应用了几乎所有重要的自然语言处理技术。无论是从早期的基于规则的机器翻译系统，到中期的统计机器翻译，再到最近几年的神经网络机器翻译，几乎无一例外。了解机器翻译的历史沿革、技术趋势，就等于把握住了自然语言处理的发展脉搏。本书循着机器翻译技术发展的脉络，深入浅出地介绍了神经机器翻译的理论基础、技术体系和实践方法。同时，本书深刻揭示和探讨了机器翻译技术发展的推动力和未来发展方向。

周明

创新工场首席科学家，澜舟科技创始人，

中国计算机学会副理事长，ACL主席（2019）

前言/序言

推荐序

机器翻译：科学vs.技术

老友钱跃良嘱我为其同事熊德意新作写个序，按说我不从事这个领域的研究，并不合适。但是，出于两个原因，我还是接受了：一是新世纪初，我刚进入国家“863 计划”计算机主题专家组时的首个任务，就是担任人机接口专题的责任专家，曾在较长时间内和机器翻译领域的学者频繁交流，算是学习了该领域的一些基本知识；二是当前正处于人工智能的热潮中，而自然语言处理被誉为人工智能“皇冠上的明珠”，机器翻译则是自然语言处理领域极具挑战性的研究方向，我也想从计算机学科这个大同行的视角谈一些认识和思考。

使用自然语言进行交流是人类区别于动物的重要标志。随着智人走出非洲，在漫长的“全球化”进程中诞生了无数种语言。农业革命后，人类开启了现代意义的全球化。工业革命后，全球化更是明显加速，其中需要解决的难题之一就是语言交流障碍！解决途径无外乎二，一是靠时间、靠融合，在这个过程中，很多语言退出了历史舞台；二是靠语言翻译，长期以来依赖掌握“双语”或“多语”的人才。

能否用机器来实现语言间的自动翻译？我没有去查文献做详细的调研，但我相信一定有不少古人产生过这种“梦想”，在早期的科幻小说中也出现过这种“机器”。20 世纪初，有科学家开始了这种研究尝试，但直到计算机诞生，才使得利用机器进行语言自动翻译的想法具备了现实可行性。从1949 年机器翻译思想的正式提出，迄今已七十余年，众多学者在此领域做出了艰辛的探索，机器翻译经历了一条曲折的螺旋式上升的发展道路。从早期的过分乐观、过度承诺，到20 世纪60 年代中期开始的10 年遇冷；从20 世纪70 年代中期研究的恢复及其成果的成功商用，到20 世纪80 年代末统计机器翻译方法的兴起；再到新世纪深度学习方法带来的翻译质量的大幅跃升及随后的“井喷式”发展，这实际上也是观察人工智能几度兴衰的一个视角。可喜的是，“热度”在变，方法在变，但梦想未变；需忧的是，跟风仍在，“过度”仍在，应避免“极化”！

机器翻译是一个多学科交叉领域，面临的既有技术问题，也有科学问题，一方面需要依赖语言学、认知科学等学科关于语言表示、理解与生成的科学发现和科学理论，另一方面也需要在技术和工程上设计和实现高效的机器模型、算法及系统。规律和原理的发现是技术突破的基础，在追求技术突破和规模化发展的同时，不能忘记探究其后的科学问题，二者的平衡才是学科健康发展的前提。

机器翻译在70 多年的发展过程中，形成了两大技术途径：基于规则的方法和基于数据的方法，也称规则驱动和数据驱动。规则驱动方法偏重于语言的抽象表示、语言学理论、知识表示等原理性探索，分别出现了提供自然语言抽象表示的中间语言途径、语言学理论指导的基于转换的途径，以及基于语义和知识的途径等。数据驱动方法则依赖语料库和计算力，发展出基于实例的机器翻译、统计机器翻译，以及现在的神经机器翻译等模式。统计机器翻译从早期的不被认可，到随计算力的不断提高及平行语料规模的不断增长，逐步成为机器翻译的主要模式。最近10 年，深度学习技术提升了机器翻译模型从数据中获取知识的能力，深度学习驱动的神经机器翻译也因此成为新一代主流机器翻译技术，其生成的译文质量与人工译文质量之间的距离不断缩小，应用场景和范围不断扩大，如在线机器翻译，已成为人们在互联网上交流不可或缺的工具。

深度学习方法的显著成效带来了新一轮人工智能热潮，热潮中更多呈现的是现有方法的应用。不可回避的是，深度学习模型的强表达能力及高计算特性，使得包括机器翻译在内的很多人工智能领域的研究在科学与技术、理性主义与经验主义之间出现了向技术、经验主义一端“极化”的态势。然而，我们也都认识到，当前的深度学习技术本身存在着诸多问题，如不可解释、鲁棒性差、耗能高等，人工智能的未来发展应该是何走向？我以为，还是应该保持开放的思维，保持研究探索的多样性。规则驱动是否可能随认知科学、语言学等相关学科研究的深入再次螺旋回归？数据驱动结合规则驱动是否能体现“科学”和“技术”的平衡？类脑途径能否成为实现人工智能的通用模式？如此等等。作为非该领域专家，我不敢妄言，只是从科研的基本规律出发，谈自己的期望。

本书介绍的是当前的主流——神经机器翻译技术。全书按两条主线组织，内容主线分四篇，覆盖神经机器翻译的基础知识、神经网络模型原理、引擎实现和部署以及若干前沿研究主题，理论和实践相结合；短评主线交织穿插于内容主线网络中，将相关内容与更广泛的主题关联，如机器翻译的发展历史、自然语言处理研究范式、软件开源、数据驱动、技术创新、实验可复现性、人工智能伦理等。可贵的是，书中的某些短评探讨了被机器翻译技术快速发展掩盖的机器翻译背后的科学问题，并呼吁机器翻译研究需在科学与技术间再平衡；在技术创新发展的同时，机器翻译研究需与其他学科交叉融合，使得相关科学理论可以支撑机器翻译未来更大的发展和突破。同时，作者也从科学研究范式的本源上深入思考了机器翻译的未来。

本书作者熊德意等长期从事机器翻译领域的研究工作，熟悉统计机器翻译和神经机器翻译技术，书中不少思想和观点来源于作者长期的研究、观察、实践及思考。

本书可作为计算机科学及相关专业，对自然语言处理和机器翻译感兴趣的高年级本科生和研究生的学习教材，也可供自然语言处理、机器翻译领域的研究人员和工程技术人员参考。希望读者通过阅读本书，能够了解自然语言处理、机器翻译技术的发展和现状，并对其中乃至人工智能中的科学问题有更深入的思考。

是为序。

梅宏

中国计算机学会理事长

壬寅孟春于北京

前言

本书对神经机器翻译技术进行了全面梳理和系统探讨，按内容分为基础篇、原理篇、实践篇及进阶篇，合计20 章。

• 基础篇：从机器翻译历史发展角度阐述了神经机器翻译的诞生过程，探讨了神经机器翻译与上一代机器翻译技术——统计机器翻译的关系，并进行了多维度对比，系统介绍了与神经机器翻译相关的神经网络、自然语言处理基础知识。

• 原理篇：按照神经机器翻译技术发展的脉络，依次介绍了经典神经机器翻译模型、神经机器翻译注意力机制、基于卷积神经网络的神经机器翻译及基于自注意力的神经机器翻译，对神经机器翻译技术发展过程中面临的主要问题进行了探讨，如集外词、深度模型、快速解码和领域适应等问题，并介绍了相应的解决方案。

• 实践篇：按照完整实现一个神经机器翻译系统的主要步骤，依次介绍了数据的准备、模型的训练、系统的测试及最后的实际部署，并对如何设计和实现一个神经机器翻译软件系统进行了详细探讨。

• 进阶篇：对目前神经机器翻译领域正在研究的前沿课题进行了介绍，包括语篇级神经机器翻译、低资源及无监督神经机器翻译、融合知识的神经机器翻译、鲁棒神经机器翻译、多语言神经机器翻译、语音与视觉多模态神经机器翻译六大主题，梳理了目前在这六大方向上的主要技术路线及开放问题。

我们希望本书不仅仅是一本介绍机器翻译新技术的书。如果对神经机器翻译的介绍仅仅停留在技术的形式化上，只有算法、模型、公式等，那么难免会让读者觉得枯燥乏味。相反，本书力求可以承载更多有意思的内容，如技术背后的思想、技术发展的脉络等。为此，在写作本书过程中，我们始终站在历史发展的角度，对比不同机器翻译范式，希望从对比中窥见技术发展的内在原因。同时，为了能够串联不同技术及同一技术的不同发展阶段，更好地介绍技术背后的思想、争议及发展原因，本书的每一章均附有一篇与该章主题相关的短评。

这些短评少则一两页，多则六七页，共计20 篇，串起了神经机器翻译技术背后的历史、故事、思想、哲学、争议和规范等，如“统计与规则的竞争”“自然语言处理之经验主义与理性主义”“卷积神经机器翻译——实用性倒逼技术创新”“超参数设置——自动优化与实验可重现性”“机器翻译工业部署”“神经机器翻译达到人类同等水平了吗？”“神经机器翻译是疯子吗？兼谈其‘幻想’”“预训练技术争议与语言符号奠基问题”等，有些评论内容已超出神经机器翻译甚至机器翻译的范畴，涉及自然语言处理乃至人工智能等更广泛的议题。这些短评既可以结合相应技术章节阅读，也可以单独阅读。它们不仅包含本书作者的观点，也涉及许多其他机器翻译、自然语言处理研究人员的发现、观察及思考等。因此，这些短评可为机器翻译研究者、实践者、使用者、爱好者和旁观者等不同读者提供一个理解机器翻译技术的新视角。受限于本书作者水平，短评及书中观点难免存在错漏，敬请读者批评指正！

机器翻译是计算机科学与语言学交叉形成的最早的研究方向，计算语言学最初以机器翻译技术研究为中心，在机器翻译初期研究遇到困难之后（ALPAC报告），其他分支开始广泛发展起来。机器翻译本身的高难度及历史发展原因，使机器翻译成为自然语言处理技术的集大成者及发源地。一方面，很多自然语言处理技术在机器翻译中得到广泛应用，如词法分析、句法分析、语义分析、语篇分析、知识图谱和信息检索等；有些自然语言处理技术即使没有直接应用于机器翻译，它们与机器翻译仍然存在诸多交叉重叠之处，如自然语言生成、对话和问答等。另一方面，自然语言处理的很多技术源自机器翻译，如深度学习驱动的自然语言处理，很多底层技术最初是在机器翻译领域提出或最先应用于机器翻译的，如序列到序列编码器-解码器框架、Transformer 等。这些技术最早应用于机器翻译，后来拓展到自然语言处理的其他任务上；有些技术甚至应用到自然语言处理之外的其他领域，如Transformer 应用于计算机视觉、语音等。

鉴于此，本书在介绍机器翻译技术时，尽可能兼顾自然语言处理，对技术的介绍希望从更广的角度展开，如：

• 第16 章介绍的融合知识的方法，对其他自然语言处理任务融合知识具有一定启发意义;

• 第17 章介绍的鲁棒性技术，不仅仅面向神经机器翻译，也面向其他自然语言处理模型；

• 第18 章介绍的大规模多语言神经机器翻译模型的设计及训练方法，也适用于其他自然语言处理大模型，如预训练语言模型。

此外，本书还涉及并讨论了自然语言处理相关的大量概念，如语篇、常识、低资源、语言类型学和语法性别等。

因此，虽然本书的主题是机器翻译，但是对自然语言处理技术感兴趣的读者，也可以将本书作为参考书使用。

熊德意

2021 年6 月1 日

查看全部↓

神经机器翻译：基础、原理、实践与进阶 pdf下载

内容简介

产品特色

编辑推荐

内容简介

作者简介

内页插图

精彩书评

目录

前言/序言

神经机器翻译：基础、原理、实践与进阶 pdf下载

内容简介

产品特色

编辑推荐

内容简介

作者简介

内页插图

精彩书评

目录

前言/序言

相关推荐

数据产品经理必修课：从零经验到令人惊艳李鑫

互联网统计

Revit机电应用实训教程

商用机器学习：数据科学实践约翰·赫尔机械工业北方城