光速人工智能
欧洲经委会教授的开创性创业公司为节能人工智能基础设施带来了曙光
A.J.克莱伯著
众所周知,人工智能技术,尤其是像llm(大型语言模型)这样的生成式人工智能技术,需要巨大且快速增长的能量来运行。最近宣布的臭名昭著的三里岛(Three-Mile Island)核设施的重新开放,只是新闻周期中最新的一条,它让公众意识到人工智能的增长规模,尽管围绕人工智能各个方面的兴奋和创新都处于历史最高水平。
所谓人工智能方面的能源消耗激增的原因是需要大量的数据处理,特别是流行的基于人工智能的生成应用程序,如ChatGPT,它能够通过从巨大的数据集中学习模式并使用它们生成用户规范的内容来生成“原创”的书面和视觉作品。随着人工智能技术的不断发展和冲击市场,它们对更多计算能力的永不满足的需求引起了人们对数据中心硬件“瓶颈”的担忧。不仅能源需求将继续飙升,而且由于试图通过根本无法处理数量的数据中心移动如此庞大的数据而增加的延迟也将增加。随着模型的增长,这些处理器将发现自己空闲的时间越来越多,等待数据交换。除了闲置硬件消耗宝贵能源的环境成本外,这种放缓可能会“刹车”创新和这些技术的进一步发展及其潜在的经济效益。
我们的数据基础设施要么处于大规模紧缩的边缘,要么处于一种转型的边缘,这种转型可能会缓解这些迫在眉睫的瓶颈,甚至使计算硬件的节能扩展能够支持人工智能模型的增长。这是光子学先驱和欧洲经委会教员米洛斯·波波维奇的时刻。
对更光明的计算未来的憧憬
15年来,波波维奇教授一直是硅光子学发展的领导者;追求用更便宜、更节能、更高带宽、更深远、最重要的是更低延迟的基于光的替代品取代传统的电子和铜线通信(所有当代计算硬件的基础)的梦想。他和他的合作者的工作导致了第一个使用光与其他芯片通信的微处理器,最初于2015年在科罗拉多大学博尔德分校展示。同年,他与人共同创立了Ayar实验室,这家公司致力于将最初由大学主导的澳门威尼斯人注册网站研究转化为实用且具有商业可行性的技术。这些创新包括与美国领先的半导体制造商GlobalFoundries合作开发电子-光子集成电路的商业制造平台,以及发明“光学I/O芯片”。现在,这种专业知识需求量很大,因为该公司基于popoviki的早期澳门威尼斯人注册网站研究开发的集成光学I/O技术准备解决计算机行业最紧迫的问题之一。
开辟道路
2023年11月,拜登总统和多位知名人士有机会在DARPA赞助的“美国可能性:白宫演示日”上观看了英特尔/Ayar实验室的尖端合作演示。显示的光学I/O小芯片允许极快(每个4 Tbps)芯片到芯片的通信;一个小碎片足以在几分钟内移动整个国会图书馆。这是数据中心内支持人工智能发展所需的通信吞吐量,允许在分解架构内的数百个gpu之间实现低功耗,高带宽的网络,可以最有效地利用硬件(和能源)资源。
该活动旨在展示联邦政府对未来技术进步的投资成果,而“未来”似乎就是现在:根据popoviki教授的说法,“从现在开始,光学gpu投入生产的时间框架远不到5年。”
所有人都在关注光输入/输出
根据波波维奇的说法,虽然Ayar实验室仍然领先竞争对手“几年”,但他们肯定不是唯一相信硅光子学可能掌握数据瓶颈问题的关键,甚至超越。来自世界各地的行业领导者都在探索封装内光学I/O芯片的潜力,Ayar实验室正忙于与英特尔、NVIDIA和洛克希德马丁等公司以及政府机构合作,以大规模实施光学技术。
波波维奇教授的照明革命正在顺利进行,准备挑战当今人工智能技术的局限性和电力过度消耗,以促进更光明的未来。
米洛什·波波维奇教授2016年加入波士顿大学电气与计算机工程系。他的澳门威尼斯人注册网站研究重点是开发各种应用的尖端光子集成电路技术,包括光互连,量子通信和计算,低温信号处理和激光雷达成像。他是美国国家发明家学会和David & Lucile Packard基金会的成员,拥有41项已颁发专利和15项正在申请的专利。他在2022年获得了波士顿大学和东北学生就业管理协会(NEASEA)颁发的年度导师奖。