让机器人玩猫捉老鼠,清华类脑芯片再登国际顶刊 Science:160 核、16 万个神经元、2000 万个突触

芯东西 2022/6/17 11:15:00 责编:潇公子

芯东西 6 月 17 日报道,本周四凌晨,国际学术顶刊 Science 公布了清华大学神经拟态芯片(又名“类脑芯片”)的最新研究成果。

这一研究由清华大学精密仪器系教授、类脑计算研究中心主任施路平率队,论文作者均来自清华精密仪器系、光盘国家工程研究中心、北京未来芯片技术高精尖创新中心、类脑计算研究中心。

2019 年 8 月,施路平教授团队研发的全球首款异构融合类脑计算芯片“天机(Tianjic)芯”曾登上国际学术顶刊 Nature 封面,并展示该芯片如何驱动一辆自动行驶自行车实现自动控制平衡、识别语音指令、探测前方行人以及自动避障。

这一成就,被当时 Nature 总编斯基珀博士赞誉为“人工智能领域的重要里程碑”,并成为 2019 年科学界的年度热点研究之一。

而这一次,在以往工作的基础上,其团队又研发了一款名为 TianjicX 的 28nm 神经拟态芯片。

TianjicX 的峰值动态能效为 3.2TOPS / W,片上存储带宽为 5.12tb / s,单位面积算力高达 0.2TOPS / mm2,支持对每个任务进行计算资源的自适应分配和执行时间的调度。

研究团队打造了一个搭载该芯片的多智能任务移动机器人 Tianjicat(天机猫),并设计让它作为猫这个角色,来参与猫捉老鼠的游戏。

实验结果显示,与 NVIDIA Jetson TX2 相比,在 TianjicX 上跑多个网络的延迟大幅减少了约 98.74%,动态功率降低了 50.66%。

论文作者认为,TianjicX 为移动智能机器人计算硬件的研发开辟了一条新的道路,使其能在低延迟、低功耗的情况下本地执行密集和复杂的任务,并支持多个跨计算范式神经网络模型以各种协调方式在机器人中并行执行。

论文地址:DOI: 10.1126 / scirobotics.abk2948

01. 为移动智能机器人设计硬件,需满足三个核心要求

移动机器人的长期目标,是在处理复杂和未知环境时,能够达到接近人类水平的智能。

近年来,随着人工智能(AI)快速发展,各种神经网络算法被广泛应用于机器人。神经网络算法通常是计算密集型的,为了在移动机器人上高效地实现多种神经网络,计算机硬件的创新与高效计算尤为必要,有 3 点核心要求:

1、必须在低延迟情况下,支持多个神经模型的本地并发执行,这是提高实时处理能力的关键。

2、必须赋予部署多个模型的灵活性,以在处理动态场景时实现低延迟、高效率和高并发性之间的平衡。

3、必须支持异步执行和灵活的交互,以获得较高的硬件利用率,并在开放环境中实现适应性。

然而,现有的计算硬件解决方案在满足这些需求方面,面临着不同的困难。底层架构或执行模型的固有瓶颈,使得现有的计算硬件,无法在本地实现低延迟和高效率的多个密集算法。

通用处理器通常无法提供大规模并行计算,导致在机器人系统中执行神经网络时成本低、功耗高。图形处理器(GPU)具有很强的可编程性和高并行性,但频繁的片外内存访问和与 CPU 的交互,致使其存在功耗高、利用率低的问题。

近年来,许多性能大幅提升的 AI 计算硬件涌现于世。基于现场可编程门阵列(FPGA)和面向特定应用设计的深度学习加速器可通过定制架构优化提供更高效的加速。

这些加速器基于传统的冯・诺依曼体系架构,但随着神经网络多样性和多任务的显著增加,其硬件利用率和调度灵活性会面临巨大的挑战,很难同时在机器人中实现多种不同的高性能算法。

相比之下,采用非冯・诺伊曼架构的神经拟态芯片,是同时执行多个神经网络模型的更优选择。

当前神经拟态芯片通常采用预配置内核的方式,通过空间切片对神经网络进行流水线处理。每个核心在不同的执行周期中重复执行预配置操作,导致资源分配不灵活,致使资源利用不足。

因此,清华大学研究人员研发了一种神经拟态芯片 TianjicX。

▲ TianjicX 芯片

该芯片在任务执行和协作过程中具有时空弹性(spatiotemporal elasticity),即硬件对任务的计算资源和执行时间具有自适应分配能力。

02.三个关键层次拆解:架构、芯片、机器人系统

TianjicX 可以实现跨计算范式的神经网络模型的真正并发执行,包括神经网络、脉冲神经网络(SNN)以及两者的混合,应用于多智能任务机器人(MIT)。

为多智能任务机器人设计计算硬件,面临两个关键挑战:一是满足延迟并发能力(LCP)的性能要求,尤其是针对不同的神经网络实现;二是在支持任务间交互的同时,保持每个任务的独立执行不受干扰。

为了克服这些挑战,研究人员从架构、芯片和模型部署等不同层次进行了一系列设计。

▲ 多智能任务机器人的神经拟态计算平台

多智能任务机器人神经拟态计算平台的关键设计包括三个层次:1)Rivulet 执行模型;2)带有特殊编译器的 TianjicX 芯片;3)基于 TianjicX 的机器人系统。

1、架构:设计 Rivulet 执行模型

研究人员首先开发了 Rivulet 执行模型,通过可配置的原语序列和同步-异步混合执行机制来解决效率、弹性和适应性之间的关键冲突,以弥合机器人需求和具体的硬件实现之间的差距。

Rivulet 模型抽象了神经网络的基本执行活动,将神经网络和 SNN 统一为“静态数据”和“动态数据”,为资源分配和任务调度提供了一个具体的可操作和可描述的实体。

在此基础上,研究团队构建了时间和空间切片相结合的资源模型来管理多 rivulet,并通过虚拟分组,以一种同步-异步混合分组的方式设计了 rivulet 的执行,能够支持多个独立或相互作用的 rivulet。

▲ Rivulet 执行模型的说明

这一模型,奠定了 TianjicX 芯片的架构基础。

2、芯片:采用 28nm 制程、160 个 FCore 核心

为了有效地实现 Rivulet 模型,计算硬件需支持高效的多 rivulet 执行、核心过程控制、虚拟分组,并支持通信、调制和 rivulet 之间的相互调度。

对此,研究人员研发了一种基于 28nm 互补金属氧化物半导体(CMOS)的神经拟态芯片 TianjicX。

该芯片集成了 160 个可配置的跨计算范式核心、大规模并行计算单元和丰富片上存储,采用非冯・诺依曼式高度并行的多核分散架构,满足了 Rivulet 操作需求。

▲ TianjicX 硬件架构

为了支持高效的跨范式计算和灵活的可编程性和调度能力,研究人员从生物神经元汲取灵感,设计了统一功能核心(FCore)的微架构。在核心中,一个平衡计算和调度的专用控制器在本地管理每个核心,从而提高通用性和效率。

研究人员还设计了一个具有多精度计算的统一原语指令集,以支持 ANN(人工神经网络)、SNN 和交叉建模的高可编程性和多功能性,并将原语进一步划分为不同的硬件模块,以确保硬件资源的最大化共享。

此外,通过事件驱动设计和核心的多级分组,不同的神经网络可根据环境的动态变化异步执行,并进行全局交互。研究团队亦进一步开发了采用时空映射方法的编译器栈进行模型部署,充分利用了 TianjicX 的灵活性,能根据不同场景的实际需要,灵活配置多个任务。

▲ 编译器栈包含一个转换器、映射器和代码生成器

3、机器人系统:可实时完成多项智能任务

TianjicX 芯片能提高机器人在复杂和动态环境中处理多用途和多智能任务的能力。

具体来说,弹性资源分配可以提高硬件利用率,满足机器人不同的性能要求。独立的执行上下文使机器人能够并发和异步地执行多个任务;支持任务之间的交互,可确保机器人的多个模块(即多模态感知和多运动模块的协调)顺利协作。

研究团队制作了一个配备有 TianjicX 芯片和多模态传感器的移动机器人 Tianjicat(天机猫),并设计了由 Tianjicat 扮演猫的猫捉老鼠游戏。

通过实现不同的神经网络和 SNN 模型,该机器人可以实时完成声音识别、声源定位、目标检测和识别、避障和决策等多项任务。

03. 详解芯片特性,在猫鼠游戏中能效超 NVIDIA TX2

TianjicX 芯片采用联电 28nm 高性能紧凑型(HPC+)CMOS 工艺、FBGA-225 封装。该芯片的物理布局如下图所示。

▲ TianjicX 芯片的芯片布局、FCore 核心区及 FCore 核心区分区情况

该芯片包括 160 个 FCore 和 1 个用于芯片间通信的高速序列化 / 反序列化(SerDes)接口。控制器只占用 FCore 大约 1% 的面积,但显著提高了任务执行和交互的灵活性和效率。核心内存模块由 5 个静态随机访问内存(SRAM)块组成,总容量为 144 千字节。通过高位宽并行读写接入接口,整个芯片在 400MHz 时钟频率下内存接入带宽可达 5.12tb / s。

▲ TianjicX 芯片的关键特性与性能

研究人员通过实验评估了 TianjicX 芯片的性能,重点关注功耗、延迟和吞吐量。

两种主流的神经网络模型 MobileNet 和 ResNet50 使用不同的映射策略实现。下图展示了 TianjicX 芯片的处理速度与功耗的关系。

▲ 执行 MobileNet 和 ResNet50 的性能与功耗评估,并展示了 GPU、CPU 和神经网络加速器的性能表现

为了进行比较,研究人员还绘制了不同类型 GPU、CPU 和深度学习加速器的性能对比。

可以看到,TianjicX 在中等功耗的情况下为 MobileNet 实现了高速的图像处理,可见其在边缘应用中具有竞争力。此外,TianjicX 还能在低功耗的情况下处理 ResNet50。

其实验结果展现了 TianjicX 支持大规模人工神经网络、SNN 和混合脉冲 / 非脉冲模型的潜力。

▲ 具有代表性的 SNN 和混合模型的性能和功耗

通过优化映射策略,TianjicX 的性能还可以得到进一步提升。研究结果表明,TianjicX 具有多尺度、跨范式处理单个神经网络模型的能力,这是支持神经网络模型多任务处理的关键。

为了展示 TianjicX 在多任务智能机器人应用方面的能力,移动机器人开发平台 Tianjicat 构建于一辆改装的移动汽车的基础上,并配备了 TianjicX 芯片阵列和多模态传感器,如下图所示。

▲ Tianjicat 机器人、开发板、TianjicX 芯片阵列实物图

开发板由 4×1 阵列的 4 个 TianjicX 芯片组成,可以根据需要控制使用一个或多个芯片。值得注意的是,这些芯片可以单独激活。在接下来的实验中,只有一个 TianjicX 芯片被激活,用于实现各种神经网络,其他 3 个芯片没被激活。

研究人员进一步在复杂的动态环境中设计了一个具有挑战性的猫捉老鼠游戏。

▲ Tianjicat 五种主要状态的机器人场景示意图

Tianjicat 扮演一只猫的角色,试图抓住一只随机奔跑的电子老鼠。各种障碍被随机地、动态地放置在不同的位置。

这只“机器猫”需要通过视觉识别、声音跟踪或两者结合的方式来追踪老鼠,然后在不与障碍物碰撞的情况下向老鼠移动,最终追上它。

在此过程中,多种神经网络算法被用于实现实时场景下的语音识别、声源定位、目标检测、避障和决策。因此,这些神经网络算法的协同处理和并发处理是关键。

这项工作里,轻量级检测卷积神经网络(CNN)被用于端到端多目标检测,SNN 充当声音处理神经网络的事件驱动开关,CNN-GRU(门控循环单元)混合网络被用于估计声源位置,基于 SNN 的神经状态机(NSM)被用于进行多网络调度和策略决策。

SNN 可以通过固有的神经元动力学记忆时间信息,并将信息编码为二元脉冲序列,其基于阈值的机制自然也类似于决定是否要激活声音定位网络的开关。因此,研究人员选择 SNN 模型作为任务中的切换神经网络。

SNN 和 GRU 使用相同的基于 CNN 的特征(称为 audio-CNN)提取器进行语音预处理。该算法以异步和并行的方式部署在单一 TianjicX 芯片上,根据不同网络对计算性能的要求,采用混合时空映射的方法对一个 TianjicX 芯片有限的硬件资源进行优化分配。

▲ 多个任务的资源占用情况:这些网络都映射在一个 TianjicX 芯片上,实现灵活的资源共享

整个系统占用 128 个 FCore,这些 FCore 被分配到 4 个 Step group 中,以事件驱动的方式执行。

▲ 在 TianjicX 上的外部事件驱动和异步并行多任务执行图

特别是,audio-CNN 提取的特征被 GRU 和 SNN 共享。因此,通过对 rivulet 的空间和时间切片,这两个网络可以重用同一簇 FCore(共 4 个)。与没有进行优化的两个独立 FCore 集群相比,存储消耗减少了 8.2%,而处理时间却没有增加。

由于具有即时原语机制,任务间的协作和数据传输无需通过其他硬件进行调度。与 NVIDIA Jetson TX2 相比,在 TianjicX 上多个网络的计算响应延迟减少了约 98.74%。

与 GPU 中多个神经网络串行执行相比,其整个机器人系统能灵活地以事件驱动的方式运作,具有高度并行性。

每个神经网络只在更新外部传感器的相应输入时执行,因此功耗较低。此外,具有高效异步并行执行和交互特性的多任务处理,对单个任务对其输入的响应的影响可以忽略不计。

各神经网络模型的延迟、功耗和功率效率如下图所示。

同时处理 5 个神经网络时,这款猫鼠游戏使用了一个 TianjicX 芯片内的 128 个核心,总动态功耗约为 0.6W。与 TX2 相比,TianjicX 的动态功率降低了 50.66%。

这些结果表明,面向在多任务智能机器人应用,TianjicX 能在兼顾低延迟和高能效的情况下实现较高的实时性能。

04. 结语:未来将探索神经拟态硬件,与机器人计算的更多可能

移动机器人的快速发展,为基于其独特需求设计替代计算硬件带来了机遇。

神经拟态架构不仅可以用于提高智能水平,还可以为替代计算架构设计方法提供思路,包括以分散分布的方式进行资源配置、采用事件驱动的执行和调度、通过类神经网络活动实现近似计算、采用专门的硬件架构实现通用系统等等。

基于这些思想,这篇论文的作者设计了 Rivulet 执行模型和 TianjicX 芯片的实现,并在设计 TianjicX 时,就任务执行、资源分配和任务协作方面进行了多种权衡,以实现较高的时空弹性。

相较传统的神经拟态芯片,TianjicX 能充分利用智能算法的数据局域性,提高内存利用率,支持多种数据移动模式,增强可编程性。

本篇论文的作者写道:“未来,我们将继续研究神经拟态硬件与机器人计算的结合,探索更多无人机器人的可能性。”

相关文章

关键词:芯片机器人神经网络

软媒旗下网站: IT之家 辣品 - 超值导购,优惠券 最会买 - 返利返现优惠券 iPhone之家 Win7之家 Win10之家 Win11之家

软媒旗下软件: 魔方 云日历 酷点桌面 Win7优化大师 Win10优化大师 软媒手机APP应用