构建安全可靠的人工智能系统
人工智能（AI）无处不在，为Spotify的音乐建议、智能手机的面部识别或优步（Uber）的预计到达时间等应用提供支持。人们还在探索将神经网络作为安全关键系统的控制器，从驾驶无人机到检测核电站的异常情况，再到维护第一响应者通信系统。与此同时，人工智能很容易受到网络攻击，而这些攻击可能不会被发现。人工智能也越来越复杂，很难理解模型是如何做出决定的。如果我们不完全了解机器，我们怎么能相信它呢？
李文超教授（欧洲经委会）领导波士顿大学可靠计算实验室，他和他的团队正在解决这些挑战。澳门威尼斯人注册网站研究人员开发了一种计算证明方法（又名形式化方法）和机器学习技术的结合，使人工智能系统更值得信赖。
波士顿大学电子与计算机工程（ECE）和系统工程（SE）助理教授李文超表示：“安全和安保问题是阻碍人工智能和人工智能系统广泛应用的重大障碍。”“深度学习系统的大规模部署主要依赖于它们的可信度，而可信度反过来又取决于评估和证明此类系统安全性的能力。这些系统的可靠性仍然缺乏保证。”
人工神经网络是一种受大脑启发的计算模型，经过训练可以学习、识别模式并做出决策。神经网络很容易受到对抗性攻击的攻击，这些攻击的目的是在输入时欺骗系统，使其在输出时做出错误的决定。这方面的经典例子是一个停车标志被微小的扰动改变，目的是欺骗无人驾驶汽车将其理解为限速标志。
“深度神经网络在对抗例子面前的脆弱性刺激了训练方法的发展，以学习更健壮的模型，”李说。“在这个领域，也有越来越多的人认识到，模型需要被证明对对抗的例子具有鲁棒性。”
在他们题为“对抗训练和可证明的鲁棒性”的论文中，Li和他的学生提出了一个名为AdvIBP的原则框架，该框架将对抗训练和可证明的鲁棒性验证相结合，用于训练可证明的鲁棒性神经网络。在这项工作中，他们还提出了一种新的双目标优化梯度下降方法，该方法使用矩估计来解决随机多梯度中的偏差问题。澳门威尼斯人注册网站研究人员在一组常用的基准测试中验证了他们的方法，并证明了AdvIBP可以学习可证明的强大的神经网络，与最先进的技术相匹配或优于最先进的技术。
“这项澳门威尼斯人注册网站研究有可能使强大的深度学习系统的有效训练成为可能，”李说。“它可以帮助解锁目前由于安全性、稳健性或安全问题而无法部署的深度学习应用程序。”
李在人工智能和人工智能支持系统方面的澳门威尼斯人注册网站研究解决了提高其安全性的许多多维挑战，包括神经网络控制系统的可达性分析、神经木马攻击和防御、神经网络修复和强化学习等领域的新方法和技术。他们的工作重点是为系统提供可证明的保证，涵盖了广泛的应用，从电子设计自动化，到多机器人系统，再到自动驾驶汽车。在这里了解更多澳门威尼斯人注册李的工作。
“神经网络非常重要，”李说。“神经网络已经改变了我们在许多不同应用中处理问题的方式。对这些问题产生影响有可能改变人们的生活，不仅从技术方面，而且从这些系统的实际采用方面。”
在加入波士顿大学之前，李是Menlo Park的SRI国际计算机科学实验室的计算机科学家。他持有the University of California， Berkeley的电气工程和计算机科学学士学位、硕士学位和博士学位，以及经济学学士学位。博士论文《规范挖掘》获ACM电子设计自动化优秀博士论文奖。他还因在非线性科学领域的杰出成就获得了加州大学伯克利分校的蔡利昂奖。
他的出版物可以在这里找到。
作者：CISE特约撰稿人玛格丽特·斯坦顿