本站支持尊重有效期内的版权/著作权,所有的资源均来自于互联网网友分享或网盘资源,一旦发现资源涉及侵权,将立即删除。希望所有用户一同监督并反馈问题,如有侵权请联系站长或发送邮件到ebook666@outlook.com,本站将立马改正
这是一本讲解NPU硬件架构设计与技术实现的著作。作者将自己在CPU、GPU和NPU领域15年的软硬件工作经验融会贯通,将四代NPU架构设计经验融为一体,将端侧和云侧NPU架构合二为一,总结并提炼出本书内容。本书主要讨论神经网络硬件层面,尤其是芯片设计层面的内容,主要包含神经网络的分析、神经网络加速器的设计以及具体实现技术。通过阅读本书,读者可以深入了解主流的神经网络结构,掌握如何从零开始设计一个能用、好用的产品级加速器。
通过阅读本书,你将:
l 透彻理解与深度学习相关的机器学习算法及其实现
l 学会主流图像处理领域神经网络的结构
l 掌握加速器运算子系统和存储子系统的设计
l 摸清加速器设计中遇到的具体问题及其解决方法
l 了解NPU架构需要考虑的控制通路和数据通路
甄建勇
资深CPU、GPU、NPU三栖架构师,从事相关软硬件架构与设计工作超过15年。现就职于地平线,担任BPU首席架构师。曾就职于英伟达,担任高级架构师,作为多款CPU、NPU、GPU的核心架构师,参与了Xburst、NVDLA、TensorCore的架构设计工作。熟悉SIMT/RayTracing等模块的架构设计与实现。擅长的领域还包括经济学、法学、心理学以及Linux内核、计算机图形加速和全同态加密。
王路业
优矽科技联合创始人兼总经理,中国开放指令生态(RISC-V)联盟(CRVA)软件开源工作组副组长。曾就职于ARM安谋科技、Synopsys新思科技、ST意法半导体和中国长城计算机。
当前,ChatGPT和自动驾驶等技术正在为人类社会带来巨大的生产力变革,其中基于深度学习和增强学习的AI计算扮演着至关重要的角色。新的计算范式需要创新的芯片架构设计,这正面临新的挑战。本书从神经网络的分析出发,总结和提炼了AI加速器架构设计中常见的难点,以及解决这些难点的技术、方法和思想,是AI软硬件架构师、设计师非常宝贵的参考资料。
—— 余 凯 地平线创始人兼CEO
本书详细总结了卷积神经网络的基本结构和算法实现,并且对卷积神经网络加速器的各种架构、具体硬件实现和优化进行了细致的阐述。本书介绍了一些关键电路设计的宝贵经验,以及对神经网络和加速器的思考和见解,为有志于神经网络加速器设计的学生和工程师提供了指引,相信读完此书一定大有裨益。
—— 何 虎 清华大学集成电路学院副教授/上海清华国际创新中心集成电路研究平台副主任
本书系统地介绍了基于CNN的AI加速器设计方法,使读者能够对该领域的架构设计有清晰的认识。本书结合作者在该领域的架构设计经验,对设计中遇到的具体问题加以讨论并引导读者思考,是一本非常实用的技术书,推荐想要从事相关设计的学生和工程技术人员阅读。
—— 梁晓峣 上海交通大学教授、博导、学科带头人
本书作者精于AI架构设计,书中对神经网络、加速器的架构及设计实现图文并茂地进行了阐述,从理论和实践两个方面深入探讨人工智能加速器的设计、优化和实现,帮助读者更好地理解人工智能加速器的本质和应用。本书非常适合AI硬件架构设计人员阅读,也推荐给对神经网络架构有兴趣的科技工作者和AI爱好者。
—— 吕坚平 天数智芯CTO
人工智能技术的快速发展在大大提高社会生产效率的同时,对算力的要求也到了前所未有的高度。同时,登纳德定律和摩尔定律的终结,更增加了算力提升的难度。在这种情况下,领域专用架构几乎成了唯一的解决方案。本书正是在这样的指引下,不仅给出了神经网络加速器的架构参考,还总结提炼了架构设计方法与思想,实属可贵,一定会对人工智能从业者大有裨益。
—— 焦李成 欧洲科学院外籍院士/俄罗斯自然科学院外籍院士