CDS助理教授Joshua Peterson将人工智能与行为科学相结合
悉尼·斯科特为波士顿大学拍摄
每天，我们都面临着选择——吃什么，如何回复信息，是否投资股票。虽然我们喜欢认为自己是理性的人，通过逻辑权衡利弊做出决定，但事实往往更复杂。我们的行为受到不确定性、偏见和认知捷径的影响。这些限制不仅影响个人；它们塑造了集体行为、经济趋势和人工智能系统的功能。
在即将在2025年国际学习表征会议（ICLR）上发表的一篇论文中，波士顿大学CDS助理教授Joshua Peterson和他的同事澳门威尼斯人注册网站研究了大型语言模型（llm）如何代表人类决策。他们的澳门威尼斯人注册网站研究发现，法学硕士倾向于假设人们的行为比实际情况更理性。例如，当预测或模拟人类的选择时，像gpt - 40这样的模型更接近理性决策的经典理论——人们应该如何决策——而不是人们在实践中如何做出决策。有趣的是，澳门威尼斯人注册网站研究人员还发现，人类也倾向于假设他人的行为是理性的。正如彼得森所指出的，“人工智能正越来越多地应用于与人互动，甚至模拟人。一个重要的开放问题是，人工智能对人类行为有什么样的隐性期望。例如，人工智能系统是否理解人类的决策可能是非理性的，并且会受到许多偏见的影响？”他的澳门威尼斯人注册网站研究不仅探讨了人工智能是否能反映人类行为，还探讨了它揭示了机器和人类如何模仿他人的思想。
模拟混乱：人工智能对人类决策的错误
在这篇论文中，彼得森和他的合作者开始测试当今最先进的语言模型预测人类决策的准确性。他们专注于行为科学的两个重要实验任务。在一项澳门威尼斯人注册网站研究中，参与者面临两种经济赌博的选择，比如是肯定地拿走100美元，还是选择有50%的机会得到200美元。人工智能模型被要求预测人们会选择哪个选项。在第二个任务中，这些模型试图通过观察人们的决定来推断他们的偏好。这些实验收集了超过13,000人的反应，并在Open AI的gpt - 40、Anthropic的Claude 3 Opus和Meta的LLaMA-3等模型上运行。在这两个任务中，模型一致地假设人们会根据理性的、内部一致的策略做出选择，比如总是最大化预期回报，或者在类似的情况下应用相同的推理。相比之下，实际的人体数据描绘了一幅更为复杂的画面。人们往往会过度重视罕见的结果，对损失表现出强烈的厌恶，即使是在不合理的情况下，也会根据环境的细微变化调整自己的决策策略。
有趣的是，人们也倾向于假设其他人会理性行事。人工智能系统和人类观察者之间的这种共同期望假设决策是合乎逻辑和稳定的；然而，事实证明这是错误的，比我们意识到的更多。由于未能预测到人类的不一致性，这些模型最终复制了我们自己的认知盲点之一。彼得森解释说：“问题可能不只是需要更新、更好的模型那么简单。我们发现，更大、更强大的模型在推理上更明确——这些特征通常定义了优秀的人工智能系统——对人类理性的期望也更强。”
误解人类行为的风险
彼得森的澳门威尼斯人注册网站研究凸显了一个日益严重的担忧：如果人工智能系统被训练成反映人们应该如何推理，而不是它们实际上是如何推理的，那么它们可能会做出形式上正确、但功能上不一致的预测。这种脱节在不确定性、情绪和个人环境影响行为的现实世界中变得尤其成问题。考虑一下人工智能的财务决策或退休计划推荐系统。这些工具，如果建立在假设人类理性的大型语言模型上，可能会始终如一地提出数学上最优的策略，比如最大化预期回报。然而，正如彼得森指出的那样，“真正的人类投资者往往会受到损失厌恶、近因偏见和对市场波动的情绪反应等偏见的影响，做出决定。”其结果是，这个系统可能会提供合理的财务建议，但人们很难遵循。当市场下跌或不确定性上升时，个人可能会恐慌性抛售或放弃策略，不是因为他们误解了逻辑，而是因为他们的选择受到人工智能无法模拟的情感和心理因素的影响。这些盲点反映了彼得森的澳门威尼斯人注册网站研究所揭示的差距：人类的行为方式与人工智能系统和人们对他人行为的期望之间存在着持续的不一致。如果模型是为了提供帮助而不是误导，那么它们不仅必须包含理想化的推理，还必须包含真实人类认知的混乱。
重塑理性
这项澳门威尼斯人注册网站研究提出了一个更深层次的问题：当我们创造的反映我们自己的系统揭示了我们的扭曲时，会发生什么？大型语言模型通常被描述为预测引擎，经过训练可以反映人们的说话和行为方式。但彼得森的澳门威尼斯人注册网站研究结果表明，这些模型可能也反映了我们希望别人如何思考：理性、连贯和一致，尽管我们经常做不到。在这样做的过程中，他们揭示了一个微妙的事实：我们对他人的假设本身就是一种模型，充满了盲点和简化。与其将人工智能在捕捉人类非理性方面的失败视为一种技术缺陷，不如将其视为一种机会——一种澳门威尼斯人注册网站研究人类视角和机器能力局限性的信号，这可能更有成效。
在反思这一观点时，彼得森指出了一个悖论：“现代人工智能模型比任何澳门威尼斯人注册网站研究人员都看到了更多的人类数据，阅读了更多的心理学论文，但它们可能并不总是充分利用这种洞察力来预测行为。”展望未来，彼得森对探索微调方法感兴趣，这些方法可以帮助这些模型利用它们的知识来帮助我们了解自己。
Neeza Singh，计算与数据科学学院澳门威尼斯人注册网站研究与传播实习生