发布者:乐鱼体育app官方网站 发布时间:2024-12-04
近日,北京大学集成电路学院、人工智能研究院,集成电路高精尖创新中心研究团队在Nature Communication杂志上在线发表了题为“An emergent attractor network in a passive resistive switching circuit”的研究论文。该工作首次揭示了无源忆阻器电路为一个循环神经网络,是多个忆阻器件相互作用的涌现结果。研究团队构建了相应的吸引子网络模型和能量函数,并完成了实验证明和联想记忆应用的演示,通过理论和实验两个层面深入分析了忆阻器吸引子网络相比经典Hopfield网络在存储容量、硬件实现和性能等多方面的优势。
忆阻器(或称电阻式存储器件)具有丰富的动力学特性,利用它的阻变动力学或简单的可编程电导属性可实现状态逻辑、时间信息处理和模拟矩阵计算等功能。得益于器件非易失性和交叉阵列架构,它常被用来加速许多算法中的矩阵向量乘法(MVM),特别是神经网络方面的研究最受关注。吸引子网络是一种使用交互式反馈的递归神经网络(RNN)模型,其中Hopfield 网络是典型的代表,它与生物神经回路和记忆机制有很强的联系,并在联想记忆和组合优化中得到应用。
目前,已有一系列基于忆阻器阵列实现的Hopfield 网络硬件研究。在这些工作中,器件仅被用作静态的可编程电阻,模仿高度简化的突触,神经元则通常由传统的放大器电路实现,具有低的面积、时间和能量效率。此外,由于该架构仅执行MVM操作,算法迭代是离散进行的,这会导致额外的时延,特别是模拟计算的离散迭代需要模数转换接口,进一步限制了计算效率。
研究团队基于忆阻器自身的阈值、循环、非易失阻变特性,首次证明了由一列双极性忆阻器组成的电路本质上是一个吸引子网络。其中,忆阻器是一种特殊的人工神经元,它的非线性激活函数为双向回滞型,不同于常见的非线性函数,外部施加的电压定义了一个反对称权重矩阵,器件之间的相互作用实现网络的递归。这样的概念还可以扩展到其它器件种类,如单极性或阈值阻变器件,从而用于开发新的吸引子网络模型和硬件解决方案。
研究团队进行了相应的实验验证和联想记忆应用的演示。在经典Hopfield网络模型中,吸引子的存储容量非常有限,仅随神经元数量线性增加,因此网络只能同时记忆少量的状态。尽管可以通过使用不同的非线性激活函数或提供不同的权重配置来增加存储容量,但它们仅在算法层次验证,缺少硬件实现。相比之下,忆阻器是双向的非易失性神经元,它可以在电路中存储更多的稳定状态,大大提升了联想记忆的存储容量。最后,研究团队分析了忆阻器网络的概率模型。网络能量依赖于忆阻器的阻变阈值电压和高低电导态的电导值,它们固有的概率分布属性,使得网络能量和状态同样服从概率分布,形成类似于玻尔兹曼机的网络。
论文的第一作者是北京大学集成电路学院、人工智能研究院2023级博士研究生李永祥,通讯作者是北京大学孙仲研究员,共同作者包括北京大学博士研究生王识清、杨可(已毕业)和杨玉超教授。这项研究工作获得国家重点研发计划、国家自然科学基金、北京市自然科学基金、111计划、集成电路高精尖创新中心等项目支持。封面图片来源:拍信网