人工智能是否对某些群体有偏见，传播错误信息和极端观点？
图片来源：Lidiia Moor/iStock
人工智能是否对某些群体有偏见，传播错误信息和极端观点？
波士顿大学计算机科学家将利用首个联邦人工智能试点项目的支持，仔细审查人工智能的“社会不良行为”。
数以百万计的人都玩过ChatGPT这样的人工智能工具，测试它们写文章、创作艺术、制作电影和改进互联网搜索的能力。有些人甚至探索它们是否能提供友谊和陪伴——也许还有一点浪漫。
但是，我们可以，或者应该相信人工智能吗？它安全吗？还是会使偏见永久化、传播仇恨和错误信息？
波士顿大学的计算机科学家Mark Crovella将通过一个新项目来澳门威尼斯人注册网站研究这些问题，该项目由美国国家科学基金会（NSF）和美国能源部首创的项目提供支持。国家人工智能澳门威尼斯人注册网站研究资源（NAIRR）试点项目旨在为包括Crovella项目在内的35个项目提供先进的超级计算资源和数据，从而将对人工智能的危险和前景的审视提升到一个新的水平。
Crovella是波士顿大学艺术与科学学院计算机科学教授、计算与数据科学学院教授兼学术事务主席，他将使用这款高性能辅助工具来澳门威尼斯人注册网站研究一种被称为大型语言模型（large language models，简称llm）的人工智能。他的目标是审核法学硕士——经过训练的人工智能程序，用于澳门威尼斯人注册网站研究和总结数据，生成文本和语音，并对“社会不良行为”进行预测。法学硕士帮助推动从ChatGPT到自动聊天机器人到智能扬声器助手的一切。中科院计算机科学教授Evimaria Terzi将与Crovella一起参与该项目。
根据美国国家科学基金会的说法，澳门威尼斯人注册网站研究资源试点项目源于乔·拜登总统2023年10月的行政命令，该命令呼吁采取联邦协调的方法，“安全、负责任地管理人工智能的开发和使用”。
The Brink向Crovella询问了人工智能的快速发展，它是如何成为我们日常生活的一部分的，以及NAIRR奖将如何帮助他的团队弄清楚人工智能是否值得信赖和安全。
问&一个
马克·克罗维拉
濒危时刻: 在您的项目描述中，您注意到“法学硕士即将广泛部署”。它们可能会以哪些方式影响我们的生活——或者可能已经在影响我们的生活？
Crovella：大型语言模型是像ChatGPT这样的软件工具，正在迅速得到广泛使用。法学硕士正在迅速地找到在教育中的用途——学生和澳门威尼斯人注册网站都使用法学硕士来加速他们的工作；在社交场合——许多公司现在将法学硕士作为在线伴侣或助手销售；在科学领域，澳门威尼斯人注册网站研究人员利用法学硕士从每天发表的大量澳门威尼斯人注册网站研究成果中发现和总结重要的发展。苹果、微软和Meta都宣布将法学硕士集成到他们的产品线中。事实上，ChatGPT是所有新软件中使用速度最快的，在短短两个月内就达到了1亿用户——比TikTok或Facebook快得多。
濒危时刻: 你项目的目标是什么？
Crovella：鉴于数以百万计的人将很快与法学硕士进行日常互动，我们认为有必要提出这些模式包含哪些社会价值的问题。我们想知道这些模型是否包含对受保护群体的偏见，传播极端或仇恨观点的倾向，或者引导用户获取不可靠信息的会话模式。
考虑到数以百万计的人将很快在日常生活中与法学硕士互动，我们认为重要的是要问这些模式包含了哪些社会价值。
问题是如何在像ChatGPT这样复杂的系统中评估这些趋势。在之前的澳门威尼斯人注册网站研究中，我们从外部澳门威尼斯人注册网站研究了更简单的系统。也就是说，我们给这些系统输入，并观察它们的输出是否有偏差。然而，当我们看到法学硕士时，这种策略开始失效。例如，我们发现在一些情况下，法学硕士会正确地拒绝回答一个用英语提出的澳门威尼斯人注册敏感话题的问题，但只要用另一种语言（葡萄牙语）提出同样的问题，模型就会提供一个它不应该提供的答案。
所以，仅仅从外部看法学硕士是不可靠的。这个新项目的起源是问我们是否可以观察LLM内部，观察它所使用的概念的表示，观察它所遵循的逻辑，并从中检测系统是否可能包含不良的社会行为。从本质上讲，我们想要澳门威尼斯人注册网站研究法学硕士，就像神经科学家在功能磁共振成像仪上澳门威尼斯人注册网站研究大脑一样。
濒危时刻: 美国马萨诸塞州民主党参议员埃德·马基（Ed Markey）称赞NAIRR计划加速了人工智能澳门威尼斯人注册网站研究，他说，在“人工智能发展由大型科技公司主导的时代，他们以公共目的为导向的项目至关重要。”你同意吗？为什么在这个领域有公共目的驱动的项目很重要？
我认为参议员马基的观点强调了对人工智能系统进行独立澳门威尼斯人注册网站研究的必要性。如果没有大型科技公司，这些功能惊人的系统就不会存在，因为没有办法调集其他地方所需的资源。与此同时，我们需要密切关注这些新系统是否为我们服务得很好。我想指出的是，我们的工作依赖于这样一个事实：一些大型科技公司实际上已经“开源”了他们的模型——免费提供他们的代码和数据。对他们来说，这是一项对社会有益的行为，对我们正在做的工作至关重要。
濒危时刻: 这个奖项让你做了什么你以前可能做不到的事情？
法学硕士在两个方面是庞大的：它包含大量的知识，从大量的训练数据中获得，它有一个非常复杂的系统来生成输出，利用数十亿个参数。因此，llm中使用的内部表示被认为是巨大的和不可理解的。在现代LLM中处理大量信息是一项巨大的计算任务。我们的NAIRR资助使我们能够访问顶级国家实验室的超级计算设施，这将使我们能够有效地分析现代法学硕士的内部。
濒危时刻: 你的工作将如何造福社会和公众？
目前有超过50万种不同的法学硕士可供公众使用。毫无疑问，在不久的将来，我们每个人都将拥有自己的个性化LLM，他们将了解我们很多，并将在每分钟的基础上帮助我们完成许多任务。我们怎么知道这些“巨大而不可思议”的系统是值得信赖和安全的呢？我们的澳门威尼斯人注册网站研究旨在为回答这些问题提供方法。
评论与讨论
波士顿大学缓和评论，以促进知情的、实质性的、文明的对话。辱骂、亵渎、自我推销、误导、语无伦次或离题的评论将被拒绝。版主在正常营业时间（EST）有澳门威尼斯人注册，只能接受用英语写的评论。统计数据或事实必须包含引文或引文链接。