波士顿大学哲人说，是时候暂停人工智能了
波士顿大学哲学家朱丽叶·弗洛伊德（Juliet Floyd）是呼吁暂停人工智能澳门威尼斯人注册网站研究的人之一，她说这个领域需要人文学科专家。图片来源：iStock/Just_Super
波士顿大学哲人说，是时候暂停人工智能了
有感知的AI使命:不可能的但如果我们不小心，生活很快就会模仿艺术
最新的《碟中谍》电影中的反派是一个有知觉的人工智能，名叫实体，它想要统治全球。这些电影制作人显然是在关注时事，因为一些现实生活中的批评者警告说，人工智能正以“灭绝的危险”威胁着人类。
人工智能的潜在危险让朱丽叶·弗洛伊德（Juliet Floyd）确信，我们需要暂停它的发展。
她是艺术与科学学院的哲学教授，专门澳门威尼斯人注册网站研究科学和新兴媒体，她是成千上万的科学家和其他人之一，他们要求在六个月内停止开发比ChatGPT背后的机器学习算法更强大的人工智能系统。弗洛伊德是波士顿大学博登·帕克·鲍恩（Borden Parker Bowne）哲学教授，他加入了埃隆·马斯克（Elon Musk）和苹果联合创始人史蒂夫·沃兹尼亚克（Steve Wozniak）等知名人士的行列，尽管他并不认为一定会暂停签名。
她说：“相反，我表达了一种愿望，并声援全球越来越多的人关注、讨论和澳门威尼斯人注册网站研究人工智能和伦理的活动。”
人工智能预示着经济繁荣、医学奇迹等等。但正如《纽约时报》所总结的那样，一些人对世界末日的担忧是，有一天，“公司、政府或独立澳门威尼斯人注册网站研究人员可以部署强大的人工智能系统来处理从商业到战争的一切事情。”这些系统可能会做一些我们不希望它们做的事情。如果人类试图干扰或关闭它们，它们可以抵抗甚至复制自己，这样它们就可以继续运作。”
不那么可怕但仍然可怕的是，人们担心人工智能可能会推动“合成生物学”的进步，从而引发下一场流行病，或者人工智能可能会让2024年的总统大选淹没在错误的信息中。
我们询问弗洛伊德对暂停澳门威尼斯人注册网站研究的必要性的看法。
为清晰起见，本采访经过编辑和浓缩。
问&一个
朱丽叶·弗洛伊德
今天部: 你为什么在请愿书上签名？
朱丽叶·弗洛伊德：人工智能不能用算法解决我们所有的道德问题，它还会产生新的问题。我强烈支持进一步深入地澳门威尼斯人注册网站研究人工智能；事实上，我相信我们迫切需要它，而且几乎在每个领域。我是从人文学科出发的，作为一个对社会伦理和日常生活感兴趣的哲学家，不管是好的还是坏的，发现最终重要的是什么。从这个角度来看，我们都是未来的利益相关者，是时候让工程师和经济学家偶尔走出实验室，努力学习如何包容、认真和反思地讨论这些事情了。人文学科在我们的世界中正变得越来越重要，因为我们每个人都有能力从自己的角度去思考问题，这是引导我们走向更美好世界的先决条件。我们不能让自己仅仅成为推动技术发展的生物。
今天部: 有一天，人工智能可能会对人类构成“生死存亡”的威胁。
朱丽叶·弗洛伊德：如果计算生物学可以治愈可怕的疾病，那么很明显，它也可以用来制造超级细菌和具有灾难性潜力的生物技术。就像关心此事的科学家和公众从20世纪50年代开始呼吁对核武器管理进行严肃的讨论一样，生物学家们在最近几十年里开会讨论克隆、DNA数据库和纳米技术一样，现在是讨论如何在人工智能面前保护生命的时候了，人工智能的工作甚至比核物理学和生物学更直接地与我们联系在一起。20世纪50年代，艾伦·图灵（Alan Turing）在英国广播公司（BBC）做了几次广播，以回应对“电子大脑”存在的文化歇斯底里。我们以前也遇到过这种情况，但人工智能在渗透到地球上大多数人日常生活的间隙方面越来越强大，需要进行广泛的讨论。
今天部: 批评人士表示，ChatGPT等人工智能是错误信息的来源。在一个否认选举的社会引发了叛乱，这是暂停的理由吗？
朱丽叶·弗洛伊德：聊天对我来说并不奇怪。普通语言哲学家在20世纪50年代强调，我们日常语言的大量使用是高度可预测的，这就是ChatGPT的基础。法官p·凯文·卡斯特尔（P. Kevin Castel）最近驳回了一名律师的请求，该律师提交了一份简报，里面写满了ChatGPT编造的不存在的案件和裁决。如果我们不得不不断怀疑案情摘要和动议是否充满谎言，法律就不会起作用。而且，如果chatgpt生成的胡言乱语以它自己的产品为基础，堵塞了网络，那么网络就无法正常工作。我们需要人工检查和努力；大量的新形式的工作和创造力将不得不进入这个设计。对如何讨论人类价值观的重要性有一个广泛的共识是至关重要的。这就是人文学科的意义所在。如果简短的话，ChatGPT可以生成一篇无聊的c++论文。那又怎样?如果这是作者所关心的，那么我们的工作可能是说，“我可以告诉你如何做得更好，一些更有趣的事情。”大多数学生想知道如何做得更好；他们想学习如何思考，而不仅仅是思考什么。ChatGPT已经改变了写作教学的方式，我怀疑这里有机会。我的学生每堂课都写日记。他们和我分享了他们对草稿的编辑，以及他们使用chatgpt的经历——许多人觉得它很无聊。在很长一段时间里，学院、司法和政治殿堂主要由白人绅士学者组成。现在，在一定程度上由于人工智能，我们可能希望，不仅可以获得信息，还可以通过各种形式的激烈讨论和自我发展获得支持，这些支持可以向每个人开放，并由每个人纠正。
今天部: 欧盟已经开始监管人工智能，国会面前有许多提案。具体的规定对你来说有意义吗？
朱丽叶·弗洛伊德：在欧洲，已经有了保护隐私和反对Facebook的立法。有许多大型的国际大学澳门威尼斯人注册网站研究基金涉及人工智能、可持续性和智慧城市。在新加坡，哲学家和伦理学家都是董事会成员。联合国教科文组织也在大力推动道德规范。在美国，必须要有立法。许多软件开发人员希望立法，如果它能让他们了解他们所从事的领域，因为狂野的西部并不有趣。网络法是澳门威尼斯人注册网站研究和教育的一个重要领域，将被深入澳门威尼斯人注册网站研究，最好是在精通人类学、历史、艺术和人文学科的澳门威尼斯人注册网站和学生的帮助下。我在参加波士顿大学网络安全、法律与社会联盟（Cyber Security, Law and Society Alliance）的研讨会时学到了很多东西，这是一个由哈里里澳门威尼斯人注册网站研究所（Hariri Institute）和法学院（School of Law）联合起来的关注网络安全的澳门威尼斯人注册网站团体。他们定期讨论这些问题，并在处理隐私、虚假信息、网络安全方面做出了根本性的贡献，并就如何减轻人工智能已经开始对我们社会中的弱势群体造成的有害影响进行了急需的讨论。暂停大型训练模型将使我们能够反思和讨论我们关心的问题，包括如何投资开发方法，在未来的人工智能设计中纳入年轻人、边缘群体和弱势群体的声音和观点。别忘了在库布里克的《2001太空漫游》中，当戴夫要求HAL打开舱门时，HAL的无情回应。
评论与讨论
波士顿大学缓和评论，以促进知情的、实质性的、文明的对话。辱骂、亵渎、自我推销、误导、语无伦次或离题的评论将被拒绝。版主在正常营业时间（EST）有澳门威尼斯人注册，只能接受用英语写的评论。统计数据或事实必须包含引文或引文链接。