学术界+产业界！一窥AI芯片国内外现状

如果说 2016 年 3 月的 AlphaGo 与李世石的人机大战对技术界和围棋界的影响更大，那么 2017 年 5 月，它与第一技术的大战推向了公众的视野。 AlphaGo（阿尔法围棋）是第一个击败人类职业围棋棋手的人工智能程序，也是第一个围棋世界冠军。 它是由谷歌旗下的 DeepMind 公司 Demis Hassabis 领导的团队开发的。 它的主要工作原理是“深度学习”。

事实上，早在2012年，深度学习技术就已经在学术界引起广泛讨论。 在今年的ImageNet大规模视觉识别挑战赛ILSVRC中，采用5个卷积层和3个全连接层的神经网络结构AlexNet取得了历史最佳错误率top-5（15.3%），而第二名的成绩是只有26.2%。 此后出现了层数更多、结构更复杂的神经网络结构，如ResNet、GoogleNet、VGGNet、MaskRCNN，以及去年流行的生成对抗网络GAN。

无论是赢得视觉识别挑战赛的AlexNet，还是击败围棋冠军柯洁的AlphaGo，它们的实现都离不开现代信息技术的核心——处理器，无论处理器是传统的CPU、GPU，还是一个新的。 专用加速组件NNPU（NNPU是Neural Network Processing Unit的缩写）。 在计算机体系结构国际顶级会议ISCA2016上，有一个关于体系结构2030的小型研讨会。UCSB名人堂成员谢元教授总结了1991年以来ISCA收录的论文。与特殊加速组件相关的论文有： 2008年开始，2016年达到顶峰，超越了处理器、内存和互联结构三大传统领域。 今年比特币模拟器，中科院计算所陈云霁、陈天石研究团队提交的论文“A Neural Network Instruction Set”是ISCA2016的最高分论文。

在具体介绍国内外AI芯片之前，可能有读者会有这样的疑惑：这不就是神经网络和深度学习吗？ 那么我觉得有必要对人工智能和神经网络的概念进行阐述，特别是在工信部印发的《促进新一代人工智能产业发展三年行动计划（2018-2020年）》中2017年的工业和信息化，很好的描述了发展目标。 人们很容易认为人工智能是神经网络，AI芯片就是神经网络芯片。

人工智能整体核心基础能力显着增强，智能传感器技术产品实现突破，设计、代工、封装和测试技术达到国际水平，神经网络芯片在重点领域实现量产和规模化应用，而开源开发平台初步具备了支撑产业快速发展的能力。

事实上，它不是。 人工智能是一个非常古老的概念，神经网络只是人工智能范畴的一个子集。 早在1956年，被誉为“人工智能之父”的图灵奖获得者约翰·麦卡锡就这样定义人工智能：创造智能机器的科学与工程。 1959年，Arthur Samuel给出了人工智能的一个子领域机器学习的定义，即“计算机具有学习的能力，而不是通过预先准确执行的代码”，这是目前公认最早、最准确的定义机器学习。 定义。 我们日常熟悉的神经网络、深度学习都属于机器学习的范畴，都是从大脑机制中得到启发。 另一个比较重要的研究领域是脉冲神经网络。 国内代表单位和企业有清华大学类脑计算研究中心和上海西景科技。

好了，现在终于可以介绍一下国内外AI芯片的发展现状了。 当然，这些都是我个人的观察和浅见。

国外：优势明显的科技寡头

由于各自独特的技术和应用优势，英伟达和谷歌在人工智能处理领域占据了近80%的市场份额，而在谷歌宣布Cloud TPU开放服务和英伟达推出自动驾驶处理器Xavier后，这一份额占100%。 预计2018年将进一步扩张。其他厂商，如Intel、Tesla、ARM、IBM、Cadence等也在人工智能处理器领域占有一席之地。

当然，这些公司所关注的领域也不尽相同。 例如，Nvidia主要专注于GPU和无人驾驶，而Google主要专注于云市场，Intel主要专注于计算机视觉，Cadence主要提供加速神经网络计算相关的IP。 如果说上述公司主要专注于处理器设计等硬件，那么ARM则主要专注于软件，致力于为机器学习和人工智能提供高效的算法库。

注：上表为各研发单位截至2017年公开的最新数据。

统治 - Nvidia

在人工智能领域，英伟达可以说是覆盖范围最广、市场份额最大的公司。 产品线涵盖自动驾驶、高性能计算、机器人、医疗保健、云计算、游戏视频等多个领域。 其面向自动驾驶汽车领域的全新人工智能超级计算机Xavier，用NVIDIA CEO黄仁勋的话来说，“这是我所知道的SoC领域非常伟大的尝试，我们长期以来一直致力于芯片研发时间。”

Xavier 是一个完整的片上系统 (SoC)，它集成了一个名为 Volta 的新 GPU 架构、一个定制的 8 核 CPU 架构和一个新的计算机视觉加速器。 该处理器提供 20 TOPS（每秒万亿次操作）的高性能，而功耗仅为 20 瓦。 单个 Xavier AI 处理器包含 70 亿个晶体管，采用尖端的 16 纳米 FinFET 工艺技术制造，能够用两个移动 SoC 和两个独立 GPU 取代当前的 DRIVE PX 2 配置，而功耗仅为一小部分。

在拉斯维加斯举行的 2018 年 CES 展上，NVIDIA 又推出了三款基于 Xavier 的人工智能处理器，其中包括一款专注于将增强现实 (AR) 技术应用于汽车的产品，以及一款进一步简化汽车的产品。 DRIVE IX 由内部人工智能助手构建和部署，并对其现有的自主出租车大脑 Pegasus 进行了修改，进一步扩大了其优势。

产学研达人——谷歌

如果你只知道谷歌的AlphaGo、无人驾驶和TPU等人工智能相关产品，那么你应该也知道这些产品背后的科技巨头：Jeff Dean，谷歌传奇芯片工程师，谷歌云计算团队首席科学家，Stanford Fei-大学人工智能实验室主任李飞、Alphabet 董事长 John Hennessy 和谷歌杰出工程师 David Patterson。

在摩尔定律遭遇技术和经济双重瓶颈的今天，处理器性能的增长速度越来越慢。 然而，社会对算力需求的增长速度并未放缓，即使在移动应用、大数据、人工智能等领域也是如此。 智能等新应用兴起后，对计算能力、计算功耗、计算成本提出了新的要求。 不同于传统的完全依赖于通用CPU及其编程模型的软件编写模式，异构计算的整个系统包含了多种基于领域特定架构（DSA）设计的处理单元，每个DSA处理单元都有一个独特的责任领域，并针对这个领域进行优化。 当计算机系统遇到相关计算时，由相应的DSA处理器负责。 谷歌是异构计算的践行者，TPU是异构计算在人工智能应用中的一个很好的例子。

2017 年发布的第二代 TPU 芯片不仅加深了人工智能在学习和推理方面的能力，谷歌还认真对待将其推向市场。 根据谷歌内部测试，第二代机器学习芯片的训练速度与目前市场上的图形芯片（GPU）相比，可以节省一半的时间； 第二代TPU包含四颗芯片，每秒可处理180万亿次漂浮。 积分操作； 如果将 64 个 TPU 组合并升级为所谓的 TPU Pod，它可以提供大约 11,500 万亿次浮点运算。

计算机视觉领域的搅局者——英特尔

作为全球最大的计算机芯片制造商，英特尔近年来一直在寻求计算机以外的市场，人工智能芯片的竞争成为英特尔的核心战略之一。 为了加强在人工智能芯片领域的实力，不仅以167亿美元收购了FPGA厂商Altera，还以153亿美元收购了自动驾驶技术公司Mobileye，以及机器视觉公司Movidius以及为自动驾驶汽车芯片提供安全工具的公司。 其背后的Yogitech，彰显了这家处于PC时代核心的巨头对未来的积极转型。

Myriad X是英特尔子公司Movidius于2017年推出的视觉处理单元（VPU比特币模拟器，vision processing unit），是一款低功耗系统芯片（SoC），用于在基于视觉的设备上加速深度学习和人工智能。 智能——例如无人机、智能相机和 VR/AR 耳机。 Myriad X是全球首款配备专用神经网络计算引擎的片上系统（SoC），可加速设备端的深度学习推理计算。 神经网络计算引擎是一个片上集成硬件模块，旨在以高速和低功耗运行基于深度学习的神经网络而不牺牲准确性，使设备能够实时查看、理解和响应周围环境。 引入神经计算引擎后，Myriad X架构可为基于深度学习的神经网络推理提供1TOPS的计算性能。

引领“能效比”——学术界

除了产业界和厂商不断推出人工智能领域的新产品，学术界也在持续推动人工智能芯片新技术的研发。

比利时鲁汶大学的Bert Moons在2017年IEEE ISSCC顶级会议上提出了能效比高达10.0TOPs/W的卷积神经网络加速芯片ENVISION，该芯片采用28nm FD-SOI工艺。 该芯片包括一个 16 位 RISC 处理器内核、用于 ReLU 和 Pooling 操作的 1D-SIMD 处理单元、用于卷积层和全连接层操作的 2D-SIMD MAC 阵列以及 128KB 片上存储器。

Dongjoo Shin 等人。 来自韩国科学技术院的 KAIST 在 ISSCC2017 上提出了用于 CNN 和 RNN 结构的可配置加速器单元 DNPU。 除了包括一个RISC核心外，它还包括一个用于卷积层操作的计算阵列CP和一个用于全连接层RNN-LSTM操作的计算阵列FRP。 与鲁汶大学的Envision相比，DNPU支持CNN和RNN结构，能效比高达8.1TOPS/W。 该芯片采用65nm CMOS工艺。

对比鲁汶大学和韩国科学院神经网络推理部分的计算操作，美国普渡大学的Venkataramani S等人在计算机顶级会议ISCA2017上提出了大规模神经网络训练的人工智能建筑学。 处理器超深。 本文对深度神经网络的训练部分进行了优化，提出了可扩展的服务器架构，并深入分析了深度神经网络中卷积层、采样层、全连接层的计算强度和内存强度。 在差异方面，设计了两种处理器核心架构。 计算密集型任务放在comHeavy核心中，其中包含大量二维乘法器和累加器组件，而内存密集型任务放在memHeavy核心中。 ，包含大量的SPM内存和tracker同步单元，可以作为存储单元和计算操作，包括ReLU，tanh等。一个SCALEDEEP芯片可以由两种不同配置的处理器核组成，然后形成一个计算集群。 论文中使用的处理平台由 7032 个处理器块组成。 论文作者为深度神经网络设计了一个编译器，完成网络映射和代码生成。 同时，他设计了一个用于设计空间探索的模拟器平台，可以评估性能和功耗。 性能得益于时钟精确的模拟器。 功耗估算从DC中提取模块网表级的参数模型。 该芯片仅采用Intel 14nm工艺进行综合和性能评测，峰值能效比高达485.7GOPS/W。

国内：百家争鸣，各行其是

可以说，国内单位在人工智能处理器的研发和应用方面与国外还有很大差距。 由于我国特殊的环境和市场，国内人工智能处理器的发展呈现百花齐放、百家争鸣之势。 这些单位的应用领域涵盖股票交易、金融、商品推荐、安防、早教机器人、无人驾驶等众多领域。 人工智能芯片创业公司数量众多，如地平线、深鉴科技、中科寒武纪等，尽管如此，在国内起步较早的中国寒武纪并没有像国外厂商那样形成市场规模。 与其他厂商一样，存在着各自为政的发展现状。

除了新兴创业公司，国内的北大、清华、中科院等研究机构也在人工智能处理器领域进行了深入研究； 而百度、比特大陆等其他公司也在2017年发布了一些业绩。

注：上表为各研发单位截至2017年公开的最新数据。

全球AI芯片行业第一只独角兽——寒武纪

2017年8月，国内AI芯片初创公司寒武纪宣布完成1亿美元A轮融资。 其战略投资者可谓阵容豪华，包括阿里巴巴、联想、科大讯飞等企业。 而其公司也成为全球AI芯片行业第一独角兽，受到国内外市场的广泛关注。

寒武纪科技主要负责AI芯片的研发和生产。 公司主打产品为2016年发布的Cambricon-1A处理器（Cambricon-1A），是一款可深度学习的神经网络专用处理器。 无人机、安防监控、可穿戴设备、智能驾驶等各种终端设备在运行主流智能算法时，性能和功耗均超越传统处理器。 目前已开发出1A、1H等多种型号。 同时，寒武纪还推出了面向开发者的寒武纪人工智能软件平台Cambricon NeuWare，包括开发、调试、调优三个部分。

软硬件协同发展的典范-深鉴科技

深鉴科技联合创始人韩松在不同场合多次提到人工智能处理器软硬件协同设计的重要性，而他在FPGA领域顶级会议FPGA2017上的最佳论文ESE硬件架构是最好的证明。 这项工作主要针对使用 LSTM 进行语音识别的场景。 结合深度压缩（Deep Compression）、专用编译器和ESE专用处理器架构，在中端FPGA上可实现比Pascal Titan X GPU高3倍的性能。 并将功耗降低3.5倍。

2017年10月，深鉴科技推出了人脸检测识别模块、人脸分析解决方案、视频结构化解决方案、ARISTOTLE架构平台、深度学习SDK DNNDK、双目Deep Vision Suite六大AI产品。 在人工智能芯片方面，最新的芯片计划已经公布。 深鉴科技自主研发的芯片“听涛”和“观海”将于2018年第三季度上市，芯片采用台积电28nm工艺。 Dodd 架构，峰值性能 3.7 TOPS/W。

基准 Google TPU - 比特大陆锁风

作为比特币独角兽，比特大陆于2015年开始涉足人工智能领域，2017年发布面向AI应用的张量处理器Sophon BM1680，是继谷歌TPU之后全球又一款专用处理器。 张量计算加速专用芯片（ASIC），适用于CNN/RNN/DNN的训练和推理。

BM1680单芯片可提供2TFlops单精度加速计算能力。 该芯片由64个NPU组成。 特别设计的NPU调度引擎（Scheduling Engine）可以为神经元核心（Neuron Processor Cores）提供强大的数据吞吐量和输入数据。 BM1680采用了改进的脉动阵列结构。 2018年，比特大陆将发布第二代速风AI芯片BM1682，算力将大幅提升。

百家争鸣——百度、地平线等

在2017年的HotChips大会上，百度发布了XPU，这是一款256核、基于FPGA的云计算加速芯片，面向百度的人工智能、数据分析、云计算和无人驾驶业务。 会上，百度研究员欧阳健表示，百度设计的芯片架构突出多样性，专注于计算密集型、基于规则的任务，同时确保最大的效率、性能和灵活性。

欧阳健说：“FPGA效率高，可以专注于特定的计算任务，但缺乏可编程性。传统CPU擅长通用计算任务，特别是规则计算任务，非常灵活。GPU则针对并行计算，所以有都是非常强大的性能，XPU专注于计算密集型、规则化、多样化的计算任务，希望能提升效率和性能，带来类似CPU的灵活性，百度在2018年披露了更多关于XPU的信息。

2017年12月底，人工智能初创公司地平线发布了中国首款全球领先的嵌入式人工智能芯片——智能驾驶征途1.0处理器和智能摄像头旭日1.0处理器。 针对智能驾驶、智慧城市、智能商业三大应用场景，均有人工智能解决方案。 “旭日1.0”和“征途1.0”是地平线自主研发的人工智能芯片，性能全球领先。

为了解决应用场景中的问题，地平线将算法与芯片强耦合，用算法来定义芯片，提高芯片的效率，在高性能的情况下可以保证其低功耗和低成本. 具体芯片参数暂无公开数据。

除了百度和地平线，国内的中科院、北大、清华等研究机构也发布了人工智能处理器相关成果。

北京大学和商汤科技提出了一种基于FPGA的快速Winograd算法，可以大大降低算法的复杂度，提高CNN在FPGA上的性能。 论文中的实验使用了当前最优的CNN架构（如AlexNet和VGG16），从而实现了FPGA加速下的最优性能和能耗。 在Xilinx ZCU102平台上，卷积层平均处理速度为1006.4 GOP/s，AlexNet整体处理速度为854.6 GOP/s，卷积层平均处理速度为3044.7 GOP/s，整体处理VGG16 的速度为 2940.7 GOP/s。

中科院计算机体系结构国家重点实验室在HPCA2017顶级会议上提出了一种基于数据流的神经网络处理器架构，以适应特征图、神经元、突触等不同层次的并行计算。 为了实现这个目标，团队重新设计了单个处理单元PE，使得操作数可以通过水平或垂直总线直接从片上存储器中获取，而不是传统的PE只能从相邻的单元中获取从上到下或从左到右。 该芯片采用TMSC 65nm工艺，峰值性能为490.7 GOPs/W。

2017年VLSI国际研讨会上，清华大学微纳电子学系魏少军提出Thinker，一种基于可重构多模态混合的神经计算芯片。 Thinker芯片基于团队长期积累的可重构计算芯片技术，采用可重构架构和电路技术，突破神经网络计算和内存访问瓶颈，实现高能效的多模态混合神经网络计算. Thinker芯片具有高能效的突出优势，其能效比目前广泛应用于深度学习的GPU高出三个数量级。 Thinker芯片支持电路级编程和重构，是一个通用的神经网络计算平台，可广泛应用于机器人、无人机、智能汽车、智能家居、安防监控、消费电子等领域。 该芯片采用台积电65nm工艺，片上存储348KB，峰值性能5.09TOPS/W。

新架构新技术——忆阻器

2017年，清华大学微电子研究所钱禾、吴华强课题组在Nature Communications在线发表了题为“Face Classification using Electronic Synapses”的研究成果，将氧化物忆阻器的集成规模提高了一个数量级，实现了首次基于1024氧化物忆阻器阵列的类脑计算。 这一成果在最基本的单个忆阻器上实现了存储与计算的一体化，采用了完全不同于传统“冯·诺依曼架构”的系统，可以将芯片的功耗降低到原来的千分之一以下。 忆阻器被认为是最有前途的电子突触器件，它可以通过在器件两端施加电压来灵活地改变其电阻状态，从而实现突触可塑性。 此外，忆阻器还具有体积小、工作功耗低、可大规模集成等优点。 因此，基于忆阻器的类脑计算硬件系统具有功耗低、速度快等优点，成为国际研究热点。

在神经形态处理器方面，最著名的当属IBM 2014年推出的TrueNorth芯片，该芯片包括4096个核心和540万个晶体管，功耗70mW，模拟100万个神经元和2.56亿个突触。 . 2017年，英特尔还推出了一款可以模拟大脑工作的自学习芯片Loihi。 Loihi由128个计算核心组成，每个核心集成了1024个人工神经元。 整个芯片有超过13万个神经元和1.3亿个突触连接，与人脑中超过800亿个神经元相比，简直微不足道，Loihi的计算规模也只比虾脑复杂一点点。 英特尔认为，该芯片适用于无人机和汽车的自动驾驶、适应道路交通状况的红绿灯以及使用摄像头寻找失踪人员等任务。

在神经形态芯片研究领域，清华大学类脑计算研究中心石路平于2015年推出了首款类脑芯片——“天机”，这是全球首款集成人工神经网络的芯片（ Artificial Neural Networks, ANNs ) 和 Spiking Neural Networks (SNNs) 进行异构融合，同时兼顾了成熟广泛应用的深度学习模型和未来前景广阔的计算神经科学模型，可用于图像处理、语音识别、目标跟踪等应用开发。 在类脑“自行车”车辆演示平台上，集成了32个天机一号芯片，实现了视觉目标检测、感知、目标跟踪、自适应姿态控制等任务的跨模态类脑信息处理实验。 据悉，基于台积电28nm工艺的二代天玑芯片即将面世，性能将大幅提升。

从ISSCC2018看人工智能芯片发展趋势

在刚刚结束的顶级计算机架构大会ISSCC2018上，“Digital Systems: Digital Architectures and Systems”分论坛主席Byeong-Gyu Nam总结了人工智能芯片尤其是深度学习芯片的发展趋势。 深度学习仍然是今年大会上最热门的话题。 与去年大部分论文讨论卷积神经网络的实现相比，今年他们更关注两个问题：第一，卷积神经网络是否能更高效地实现，尤其是对于手持终端等设备； 第二，是关于全连接的非卷积神经网络，比如RNN和LSTM。

同时，为了获得更高的能效比，越来越多的研究者开始关注低精度神经网络的设计和实现，例如1-bit神经网络。 这些新技术让深度学习加速器的能效比从去年的几十TOPS/W提升到今年的几百TOPS/W。 一些研究人员还对数字+模拟混合信号处理实现进行了研究。 对于对数据访问有较高要求的全连接网络，一些研究人员使用3-D封装技术来获得更好的性能。

总结——我对国产人工智能芯片的浅见

如前所述，在人工智能芯片领域，国外芯片巨头占据了绝大部分市场份额，在人才聚集和公司并购方面具有绝对领先优势。 另一方面，国内人工智能初创企业呈现出百家争鸣、各自为战的局面； 尤其是每家初创公司的人工智能芯片，都有自己独特的架构和软件开发包，既无法融入英伟达和谷歌建立的生态系统，也不具备与之抗衡的实力。

国产人工智能芯片的发展，就像早年国产通用处理器和操作系统的发展一样，过分追求完全自主、自主、可控的恶性循环，势必逐渐退出历史舞台像很多国产芯片。 With the help of the complete ecology of X86, within just one year, Zhaoxin's domestic self-controllable x86 processor, and Lenovo's domestic computers and servers based on Zhaoxin CPU design and production have been highly recognized by party and government officials across the country , and has been applied in batches in national key systems and projects such as party, government, military office, and informatization.

Of course, there is nothing wrong with joining the X86 ecosystem for general-purpose desktop processors and high-end server chips. After all, it is no easy task to create an ecosystem like Wintel, and it is impossible for us to meet a second Jobs and Apple. In the field of brand-new artificial intelligence chips, there is still a lot of room for development for many domestic chip manufacturers. The most important thing for neural network accelerators is to find an application field with broad prospects, such as the Huawei Hisilicon Kirin processor. The NPU in the Cambrian of Zhongke; otherwise, it still needs to integrate into a suitable ecosystem. In addition, most of the current domestic artificial intelligence processors are aimed at accelerating neural network calculations, and few can provide single-chip solutions; in the development of the microcontroller field, ARM's Cortex-A series and Cortex-M series take the lead , but the emerging open source instruction set architecture RISC-V should not be underestimated, and it deserves the attention of many domestic chip manufacturers.