如何借鉴人脑的低功耗特性发展新型(xing)智能计算系(xi)统？这是人工智能领(ling)域颇受关注(zhu)的重(zhong)要研究方向。
中国(guo)科学院自动化研究所6月1日向媒体发布消息说，该所李国(guo)齐(qi)、徐波研究员团队与(yu)合作者(zhe)共同研发出一套能够实现动态(tai)计算的算法-软件-硬件协(xie)同设计的、低功耗的类脑神经形(xing)态(tai)系(xi)统级芯片Speck，展示出类脑神经形(xing)态(tai)计算在融合高抽象层次大脑机制时(shi)的天然优势。
这项人工智能领(ling)域重(zhong)要研究成果论文(wen)，近日在国(guo)际学术期刊《自然-通讯》(Nature Communications)发表。该研究实践证(zheng)实高、低抽象层次大脑机制的融合能进(jin)一步(bu)激发类脑计算潜力，将为未来将大脑进(jin)化过程中产生的各种高级神经机制融合至神经形(xing)态(tai)计算提供启发。
论文(wen)通讯作者(zhe)李国(guo)齐(qi)研究员介绍说，人脑能够运行(xing)非常复杂且庞大的神经网络，总功耗却仅为20瓦，远小于现有的人工智能系(xi)统。因此(ci)，在算力比拼加速，能耗日益攀升的今日，借鉴人脑的低功耗特性发展新型(xing)智能计算系(xi)统成为极具潜力的方向。
在本项研究中，合作团队提出“神经形(xing)态(tai)动态(tai)计算”的概念，通过设计一种类脑神经形(xing)态(tai)芯片Speck来实现基于注(zhu)意力机制的动态(tai)计算，在硬件层面做到“没有输入，没有功耗”，在算法层面做到“有输入时(shi)，根据(ju)输入重(zhong)要性程度动态(tai)调整(zheng)计算”，从而(er)在典型(xing)视觉场景任务功耗可低至0.7毫瓦，进(jin)一步(bu)挖(wa)掘出神经形(xing)态(tai)计算在性能和能效上的潜力。
Speck是一款异步(bu)感算一体类脑神经形(xing)态(tai)系(xi)统级芯片，采用全异步(bu)设计，在一块芯片上集(ji)成了动态(tai)视觉传感器(DVS相机)和类脑神经形(xing)态(tai)芯片，具有极低的静(jing)息功耗(仅为0.42毫瓦)。它能够以微秒级的时(shi)间(jian)分辨率感知视觉信(xin)息，以全异步(bu)方式设计抛弃(qi)了全局时(shi)钟控制信(xin)号，避免时(shi)钟空翻带来的能耗开销，仅在有事件输入时(shi)才触发稀(xi)疏加法运算。
李国(guo)齐(qi)指出，针对脉冲神经网络(SNN)在更高层面，比如时(shi)间(jian)维度中不能根据(ju)输入难易(yi)度调整(zheng)其脉冲发放等“动态(tai)失衡”问题，这项研究基于注(zhu)意力机制的神经形(xing)态(tai)脉冲动态(tai)计算框架，在多种粒度上实现对不同的输入进(jin)行(xing)有区分地(di)动态(tai)响(xiang)应。同时(shi)，Speck软件工具链编程框架支持动态(tai)计算脉冲神经网络算法训练和部署。
该研究的实验结果表明，注(zhu)意力机制可使得脉冲神经网络具备动态(tai)计算能力，即根据(ju)输入难易(yi)度调整(zheng)其脉冲发放模式解决“动态(tai)失衡”问题，在显(xian)著降低功耗的同时(shi)，提升任务性能。在一个(ge)动态(tai)视觉传感数据(ju)集(ji)上，融合脉冲动态(tai)计算的Speck在任务精度提升9%的同时(shi)，平均功耗由9.5毫瓦降低至3.8毫瓦。(完(wan))