事件日历

标题：可持续人工智能系统的光子学

主持人：法宾·法伊扎

指导老师：Ajay Joshi教授

主持人：Ayse Coskun教授

委员会成员：Ayse Coskun教授，Sabrina Neuman教授，Ajay Joshi教授

谷歌学者链接：https://scholar.google.com/citations?user=El3c-9EAAAAJ&hl=en&authuser=1

摘要：随着人工智能（AI）模型使用的增加以及由此带来的计算需求的增加，人工智能基础设施的碳排放量正在飙升。为了满足人工智能的巨大计算需求，澳门威尼斯人注册网站研究人员正致力于通过针对人工智能工作负载优化的加速器的进步，为人工智能开发节能硬件。与此同时，最近的澳门威尼斯人注册网站研究表明，硬件制造和基础设施排放的碳（隐含碳）对计算设备的碳足迹贡献很大，甚至超过了它们在使用过程中产生的碳（操作碳）。因此，我们需要设计出在操作和制造过程中都具有碳效率的计算系统。在这项澳门威尼斯人注册网站研究中，我们探索了光子计算的潜力，以减少人工智能系统的碳足迹，同时考虑到实际和操作排放。

许多最近开发的用于深度神经网络（dnn）的光电加速器报告了更高的吞吐量和能量效率，潜在地减少了操作碳。然而，他们都没有检查他们的制造成本，即隐含碳。为了解决这一差距，我们的第一项工作引入了第一个模型来估计光子芯片的隐含碳。然后我们介绍了EPiCarbon，一个用于评估光电加速器碳足迹的开源工具。使用EPiCarbon，我们分析了最先进的（SOTA）光电加速器的碳足迹，展示了它们作为计算要求高的人工智能应用的碳可持续解决方案的潜力。光子学的一个关键限制是它难以以一种节能的方式处理深度神经网络模型的高精度数据。因此，在我们的第二项工作中，我们探索了超维计算（HDC）的使用，这是一种受大脑启发的轻量级AI算法，其计算需求低于dnn，并且对低位精度（≤8位）具有高容忍度。我们设计了用于HDC的光电加速器PhotoHDC，认为光子学和HDC形成了一个很好的匹配对，用于节能计算。与领先的光电DNN加速器相比，用于HDC训练和推理的PhotoHDC可以实现低一到四个数量级的能量延迟积（EDP）。最后，我们提出了未来设计碳可持续的HDC+DNN模型的光电加速器的工作。虽然HDC提供了dnn的低精度，轻量级替代方案，但仅靠它无法在复杂任务中实现dnn所需的精度。我们未来的工作建立在之前所有工作的基础上，旨在通过结合HDC和dnn来平衡准确性和运行效率，减少人工智能的碳足迹，光子硬件在减少运行和隐含碳方面发挥关键作用。