人工智能问责：利用波士顿大学的跨学科社区
史黛西·多根之声，波士顿大学法学院，计算与数据科学系法学教授
在6月一个晴朗的日子里，一群法学和计算机科学教授围坐在一起，为国家电信和信息管理局（National Telecommunications and Information Administration，简称：国家电信和信息管理局）就人工智能治理发表意见。当然是在波士顿大学！这类项目是CDS使命的核心：在学科之间建立“结缔组织”，以产生及时的、有依据的、具有现实影响的澳门威尼斯人注册网站研究。在这种情况下，结缔组织已经形成了很多年。早在2016年，一群对技术政策和伦理感兴趣的法律和计算机科学澳门威尼斯人注册网站研究人员就开始在午餐时间开会讨论我们的工作。我们这些律师学习了密码学、多方计算（MPC）和零知识证明；双方就新技术的法律地位及其对隐私、知识产权、消费者保护和其他法律领域的影响交换了意见。
随着时间的推移，我们的非正式工作小组产生了一系列的演讲者，跨学科的课程，以及nsf资助的澳门威尼斯人注册MPC和隐私法之间关系的澳门威尼斯人注册网站研究。不出所料，当CDS学院聚集在一起时，我们中的一些人加入了它的行列。CDS社区加强了我们现有的联系，并将我们介绍给其他对计算和数据科学工具的伦理、法律和政策含义感兴趣的跨学科同事。我们每个人对这些问题都有自己独特的看法。我们中的一些人——比如兰·卡内蒂、马扬克·瓦里亚、亚当·斯密、马可·加博阿迪、里奥·雷津和阿洛尼·科恩（前波士顿大学博士后，现任教于芝加哥大学）——寻求技术解决隐私和安全挑战的方案；马克·克罗维拉（Mark Crovella）等人则澳门威尼斯人注册网站研究推荐系统和其他算法工具是如何运作的，以及如何塑造用户感知到的内容；还有一些人——包括Andy Sellars、Woody Hartzog、Ngozi Okidegbe、Chris Conley、Rory Van Loo和我自己——考虑现有的和拟议的法律如何适用于那些开发、分发和使用计算机相关技术的人。对于NTIA项目，我的同事Kate Silbaugh和Chris Robertson提供了澳门威尼斯人注册产品责任和侵权法的宝贵见解。
这种广泛而深入的兴趣和专业知识使我们能够独特地回应NTIA最近澳门威尼斯人注册人工智能问责制的评论请求。该机构正在就“哪些政策可以支持人工智能审计、评估、认证和其他机制的发展，以建立对人工智能系统的信任”征求意见。当然，这些评估机制本身并不是目的；他们认为，通过促进人工智能系统的透明度和理解，它们将使用户和政府能够要求更大的问责制，这应该会带来更值得信赖的技术。
在与Law和CDS的同事无数次讨论人工智能问责制后，我相信我们可以做出一些贡献——事实上我们确实做到了！经过数周的头脑风暴会议、辩论和有争议的草案，我们提交了一系列针对NTIA调查的法律和技术方面的意见。尽管我们在方法、优先事项和实质性专业知识方面存在差异，但我们在五个原则上达成了共识，我们认为这些原则应该指导政府开展人工智能问责项目：
1. 人工智能问责制必须在系统的整个生命周期中实施。
2. 问责机制必须既健全又可广泛使用。
3. 获取和透明度与保护隐私和知识产权是一致的。
4. 问责制和透明度机制是人工智能监管的必要但不充分的方面。
5. 人工智能监管需要适用于一般情况和特定情况的规则；我们建议专门机构与具有人工智能专业知识的元机构之间进行合作。
在很大程度上，这些原则源于我们自己的澳门威尼斯人注册网站研究和经验：罗里、伍迪和我都写过，需要制定实质性的法律规则来保护消费者，而不是简单地认为技术设计是不可避免的；马克有过平台阻止他澳门威尼斯人注册网站研究其运作的经历，这表明需要制定保护第三方访问和审讯的规则；Ran、Marco和Aloni的澳门威尼斯人注册网站研究证明了在不泄露商业秘密或代码的情况下证明系统适用性的可行性。
总的来说，我们的合作加强了我的信念，即CDS的使命既至关重要又具有挑战性。跨学科的澳门威尼斯人注册网站研究和教学是困难的。我们说不同的语言。我们用不同的方法处理问题，对可靠的技术解决方案的前景有不同程度的信心。这些挑战使起草过程变得繁琐，或者充满活力，或者令人沮丧。但是，像我们这样的伙伴关系对于我们的政府努力在技术开发者和公众之间实现更好的平衡至关重要。人工智能问责制给监管机构带来了特殊挑战，这不仅是因为这项技术的复杂性和快节奏，还因为几十年来的技术乐观主义导致了一种不干预的规范，而这种规范直到最近才开始转变。为了让我们的政府制定有效的政策，它需要听取人工智能澳门威尼斯人注册网站研究前沿专家的意见，不仅要了解当前系统的工作原理，还要了解未来的法律、监管和技术选择。
查看NTIA对人工智能治理的最终评论：https://www.regulations.gov/comment/NTIA-2023-0005-1268。
作者简介： 斯泰西·多根，波士顿大学法学教授，是知识产权、竞争和技术法领域的知名学者，在法律、技术和创业领域建立跨学科和机构间合作方面发挥了重要作用。