全球首款商用深度学习处理器IP产品:寒武纪系列人工智能芯片
 




成果简介

  寒武纪公司是中科院计算技术研究所(以下简称“中科院计算所”)在处理器与人工智能交叉领域超前布局的结晶。2016年,中科院计算所研制的全球首款商用深度学习处理器IP产品——“寒武纪1A处理器”问世,达到了传统四核通用CPU 25倍以上的性能和50倍以上的能效。华为Mate10系列手机以及中科曙光日前发布的专用AI服务器“Phaneron”,就搭载了拥有自主知识产权的寒武纪芯片。

  除了开发出1A处理器外,寒武纪公司还研发了全新的智能处理器产品:面向低功耗场景视觉应用的寒武纪1H8,拥有更广泛通用性和更高性能的寒武纪1H16,以及面向智能驾驶领域的寒武纪1M。3款新品在功耗、能效比、成本开销等方面均有所优化,性能功耗比再次实现飞跃,适用范围覆盖图像识别、安防监控、智能驾驶、无人机、语音识别、自然语言处理等重要领域。

历史背景

  芯片在现代工业中占有重要地位。然而,我国芯片长期依赖进口,对外依存度很高。2019年,工信部对全国30多家大型企业130多种关键基础材料的调研结果显示,绝大多数计算机和服务器通用处理器95%的高端专用芯片、70%以上的智能终端处理器以及绝大多数存储芯片依赖进口。不断提升芯片设计和制造水平,是我国破解“卡脖子”问题必须完成好的任务之一。

创新历程

  2012年,陈云霁、陈天石兄弟与中科院计算所的同事,包括后来在寒武纪公司任高管的刘少礼、郭崎、刘道福、杜子东等,以及首次提出“AI加速器”概念的Olivier Temam教授,启动了神经网络处理器(AI芯片)项目,这正是是寒武纪系列智能芯片的技术来源。项目以“电脑”的汉语拼音,命名为“DianNao”。

  2014年3月,陈氏兄弟团队在一篇论文中公开提出国际首个深度学习处理器学术架构DianNao。该学术论文获处理器架构领域顶级国际学术会议ASPLOS最佳论文奖,这是亚洲学术研究成果首获处理器架构领域顶尖会议最佳论文。同年12月,团队在另一篇论文中以DianNao为基础,公开提出国际首个多核深度学习处理器学术架构DaDianNao。该学术论文获处理器架构领域顶级国际学术会议MICRO最佳论文奖,这也是MICRO自1963年创办以来,第一次由美国以外的研究者摘得该奖项。

  在论文获得国际学术界的认可之后,陈氏兄弟团队的研究工作开始得到更多关注。2015年,团队获得了中科院先导专项数千万元的资助。在这笔资金的支持下,仅20人的研发团队研发出世界首款深度学习专用处理器原型芯片。但实验室的成就不是陈氏兄弟的终极目标,他们要让科研成果走出实验室,真正改变人们的生活。但是,要成立公司就必须拉到投资,这对长期从事科研的陈氏兄弟是个不小的挑战。虽然对项目感兴趣的投资人较多,但真正看得懂也愿意投资的人很少。

  2016年3月,北京中科寒武纪科技有限公司在中关村注册成立。“寒武纪”的创新能力的确名副其实,公司在成立当年就发布了世界首款终端人工智能专用处理器(寒武纪1A),面向智能手机、安防监控、可穿戴设备、无人机和智能驾驶等各类终端设备,并入选世界互联网大会评选的十五项“世界互联网领先科技成果”。寒武纪1A处理器支持视觉、语音、自然语言处理等多种智能任务,一经推出便被华为看中,集成到华为海思的麒麟970芯片中。麒麟970被公认为全球首款内置独立NPU(神经网络单元)的智能手机AI计算平台,而NPU指的就是寒武纪1A处理器。

  2017年10月,首款采用麒麟970的华为手机Mate10正式发布,这是全球手机行业首次引入人工智能概念。后来的事实证明,搭载寒武纪1A的华为麒麟970每分钟可识别2005张照片,击败了苹果A11芯片的每分钟889张照片。

  2018年5月,寒武纪再接再厉,成功研发出第三代终端处理器寒武纪1M,在台积电7nm工艺下8位运算的效能比达每瓦5万亿次运算,是1A性能的10倍,可广泛应用于智能手机、智能音箱、智能摄像头、智能驾驶等不同领域当中。更加引人注目的是,寒武纪还发布了第一代云端AI芯片MLU100(MLU即机器学习处理器),以及搭载MLU100的云端智能处理卡。寒武纪MLU100芯片可独立完成各种复杂的云端智能任务,理论峰值速度达每秒128万亿次定点运算,达到世界先进水平,更可以与寒武纪1A/1H/1M系列终端处理器完美适配。

重大意义和深远影响

  寒武纪公司自成立以来一直专注于人工智能芯片产品的研发与技术创新,致力于打造人工智能领域的核心处理器芯片,让机器更好地理解和服务人类。寒武纪系列智能芯片的研发,带来了诸多积极效应:采用终端智能处理器IP的终端设备已出货过亿台;云端智能芯片及加速卡也已应用到国内主流服务器厂商的产品中,并已实现量产出货;边缘智能芯片及加速卡的发布标志着公司已形成全面覆盖云端、边缘端和终端场景的系列化智能芯片产品布局。未来,寒武纪公司将与多方开展合作,共同打造中国在未来人工智能时代的亮丽名片。