计算机科学教授获得200万美元DARPA拨款，用于打击新闻中的自动错误信息
凯齐亚·齐默尔曼著
计算机科学教授Bryan Plummer和Kate Saenko与来自加州大学伯克利分校、华盛顿大学和加州大学戴维斯分校的专业人士合作，从美国国防高级澳门威尼斯人注册网站研究计划局（DARPA）获得了200万美元的资助。这笔拨款是为了支持一个旨在打击新闻中自动错误信息的项目。BU CS与布莱恩·普卢默教授交谈，以深入了解这项即将开展的澳门威尼斯人注册网站研究的目标和挑战。
“我们的目标之一是自动发现新闻中的错误信息，”普卢默说。“最近已经开发出强大的人工智能代理，可以自动生成难以识别为机器生成的文本和图像。由于这些人工智能代理相当容易使用，因此人们非常担心它们被用来传播错误信息。”
普卢默以Facebook的一项竞赛为例，该竞赛试图检测机器生成的图像，他强调了这类澳门威尼斯人注册网站研究与解决新闻错误信息挑战的相关性。
普卢默说：“Saenko教授和我已经开始在我们最近的一些工作中调查人工智能的错误信息。”“我们和澳门威尼斯人注册网站研究生Reuben Tan （GRS ' 23）一起，使用最先进的语言生成方法创建了机器生成的新闻文章，然后我们的目标是识别真假新闻文章。我们设计了一种算法，试图找到新文章与任何图像和标题之间的不匹配，这大大提高了我们模型的性能。”
除了这个新的澳门威尼斯人注册网站研究项目，两位教授之前都曾与DARPA合作过开发项目专注于可解释的人工智能和标签较少的学习。为了获得目前的资助，Plummer和Seanko与其他机构的澳门威尼斯人注册网站研究人员合作提出了他们的建议。
普卢默在总结澳门威尼斯人注册网站研究计划时说：“人工智能和机器学习的快速发展，已经使人们能够合成不存在的人的图像、人们做他们从未做过的事情的视频、人们说他们从未说过的话的录音，以及完全虚构的澳门威尼斯人注册从未发生过的事件的新闻报道。”“虽然许多早期的法医技术在打击更传统的伪造内容方面已经被证明是有效的，但我们需要新的方法来打击这种新型的人工智能合成内容。”
澳门威尼斯人注册网站研究人员预计将面临的最大挑战之一是自动检测机器操纵媒体的特定人工智能模型的不断变化的性质。普卢默解释说，这是一个障碍，因为一旦人工智能模型发生变化，识别被操纵媒体的方法很可能就失效了。
普卢默说：“一些有选择地操纵图片或新闻文章以改变其意图的方法尤其难以检测。”“由于大部分内容都来自原始来源，你必须找到由于局部变化而产生的异常。”
当被问及项目目标时，Plummer表示团队有多个目标，但他特别感兴趣的是学习如何调整模型来自动识别新的人工智能，然后辨别操纵背后的意图。这将使澳门威尼斯人注册网站研究人员能够解释这种人工智能操作的总体目标。
随着这个新奖项和项目的形成，波士顿大学CS的学生们无疑会好奇，他们如何才能走上类似的道路。当被问及对那些想从事澳门威尼斯人注册网站研究的人的建议时，普卢默强调说，虽然有很多选择，但一个专注的方法帮助他沿着自己的道路走下去。
普卢默说：“在你的学术生涯中，你可以做出很多选择。“决定要做什么，清楚地知道你想看到什么，并将其纳入你的长期计划，可以让你更容易决定把时间花在什么上。”这有助于让我专注于自己的目标。”
请访问澳门威尼斯人注册网站研究页面，了解Plummer、Saenko和Reuben Tan教授目前正在进行的工作的更多信息：https://cs-people.bu.edu/rxtan/projects/didan/
