模拟神经网络:自然通讯出版欧洲经委会澳门威尼斯人注册网站研究人员的精确蓝图
A.J.克莱伯著
计算机架构的历史起源可以追溯到古希腊,在开发和部署高度先进、节能的深度学习网络方面发挥着关键作用。
虽然将模拟计算与机器学习相结合乍一看似乎具有挑战性和违反直觉,但随着工程师们在操作规模扩大到人工智能所需的复杂性和密度时面临传统数字架构的高功耗成本,更不用说尖端的深度学习方法,这是一个不断发展的澳门威尼斯人注册网站研究领域。模拟方法提供了一种低功耗的替代方案……如果你能绕过模拟硬件中存在的令人讨厌的有限数字精度、错误和噪声的趋势。
在《自然通讯》(Nature Communications)发表的一篇新论文中,由最近的校友Cansu Demirkiran (ECE 24届博士)与顾问Ajay Joshi教授和行业合作者共同撰写,澳门威尼斯人注册网站研究人员提出了一个同名的“精确和容错模拟神经网络的蓝图”。Demirkiran和她的同事们利用一种被称为余数系统(RNS)的高效数学方法,开发了一种使用多个低精度模拟运算来组成高精度运算的方法,从而消除了对能效低下的高精度数据转换器的需求。他们的工作目标是在不影响准确性的情况下有效加速深度神经网络(dnn)。作者还利用数学冗余来对抗模拟硬件对垃圾数据(噪声)的固有脆弱性。本文为实现DNN训练和推理的高精度奠定了基础。该团队声称,他们的澳门威尼斯人注册网站研究结果有可能实现比目前更传统的模拟硬件(使用高精度数据转换器)“高出几个数量级”的能源效率,同时确保高精度计算。
Cansu Demirkiran今年8月初,她成功地通过了博士论文答辩。她是Joshi教授的集成电路,架构和系统小组的成员,并被选为2024 MLCommons新星。
Ajay Joshi教授是BU ECE教员的成员,哈里里澳门威尼斯人注册网站研究所教员澳门威尼斯人注册网站研究员和附属机构,以及光子学中心的附属机构。他的荣誉包括两次谷歌澳门威尼斯人注册网站澳门威尼斯人注册网站研究奖(2019年和2018年),ASIACCS(2018年)和HOST(2023年)最佳论文奖,以及NSF CAREER奖(2012年);他也是2024年BU技术开发点火奖的获得者。