300字范文,内容丰富有趣,生活中的好帮手!
300字范文 > 十大科技趋势之一:突破AI算力瓶颈 清华团率先出成果

十大科技趋势之一:突破AI算力瓶颈 清华团率先出成果

时间:2022-12-17 04:32:36

相关推荐

十大科技趋势之一:突破AI算力瓶颈 清华团率先出成果

开年之际,阿里达摩院就发布了“达摩院十大科技趋势”,其中所预测的趋势二就是:计算存储一体化突破AI算力瓶颈。

冯诺伊曼架构的存储和计算分离,已经不适合数据驱动的人工智能应用需求。频繁的数据搬运导致的算力瓶颈以及功耗瓶颈已经成为对更先进算法探索的限制因素。类似于脑神经结构的存内计算架构将数据存储单元和计算单元融合为一体,能显著减少数据搬运,极大提高计算并行度和能效。计算存储一体化在硬件架构方面的革新,将突破AI算力瓶颈。

其实关于类脑处理器的研究一直都在进行。近日,清华大学微电子所、未来芯片技术高精尖创新中心钱鹤、吴华强教授团队与合作者在《自然》在线发表了研究论文,报道了基于忆阻器阵列芯片卷积网络的完整硬件实现,其在处理卷积神经网络(CNN)时的能效比图形处理器芯片(GPU)高两个数量级,大幅提升了计算设备的算力,成功实现以更小的功耗和更低的硬件成本完成复杂的计算。

看到忆阻器,可能很多人就蒙了,所以我们先来解释下。忆阻器,全称记忆电阻器,它是表示磁通与电荷关系的电路器件,它是一种有记忆功能的非线性电阻。通过控制电流的变化可改变其阻值,如果把高阻值定义为“1”,低阻值定义为“0”,则这种电阻就可以实现存储数据的功能,实际上就是一个有记忆功能的非线性电阻器。用常见的水管来比喻,电流是通过的水量,而电阻是水管的粗细时,当水从一个方向流过去,水管会随着水流量而越来越粗,这时如果把水流关掉的话,水管的粗细会维持不变;反之当水从相反方向流动时,水管就会越来越细。因为这样的组件会“记住”之前的电流量,因此被称为忆阻器。由于忆阻器尺寸小、能耗低,所以能很好地储存和处理信息。一个忆阻器的工作量,相当于一枚CPU芯片中十几个晶体管共同产生的效用。

清华团队利用高能效比、高性能的均匀忆阻器交叉阵列实现 CNN,该实现共集成了 8个 PE ,每个 PE 包含2048 个单元的忆阻器阵列,以提升并行计算效率。此外,研究者还提出了一种高效的混合训练方法,以适应设备缺陷,改进整个系统的性能。研究者构建了基于忆阻器的五层 CNN 来执行 MNIST 图像识别任务,识别准确率超过 96%。

除了使用不同卷积核对共享输入执行并行卷积外,忆阻器阵列还复制了多个相同卷积核,以并行处理不同的输入。相较于当前最优的图形处理器(GPU),基于忆阻器的 CNN 神经形态系统的能效要高出一个数量级,且实验证明该系统可扩展至大型网络,如残差神经网络。该结果或可促进针对深度神经网络和边缘计算提供基于忆阻器的非冯诺伊曼(non-von Neumann)硬件解决方案,在处理卷积神经网络(CNN)时的能效比图形处理器芯片(GPU)高两个数量级,大幅提升了计算设备的算力,成功实现了以更小的功耗和更低的硬件成本完成复杂的计算。

本内容不代表本网观点和政治立场,如有侵犯你的权益请联系我们处理。
网友评论
网友评论仅供其表达个人看法,并不表明网站立场。