算法公平小组讨论

不断增长的数据科学领域被敦促采用道德标准，并与多学科合作创建新的算法。

世界各地的监管机构希望收集和分析数据的组织负责任地使用他们收集的数据，并防止歧视性做法。但是，在一个越来越多的算法指导决策的世界里，从招聘到确定谁有资格获得人寿保险，政府、数据科学家和整个社会应该如何考虑确保这些系统的输出是公平的？

这个问题是2023年10月13日在计算与数据科学学院（CDS）举办的圆桌讨论“算法公平：监管、澳门威尼斯人注册网站研究和实施的现实”的主题。这次讨论是为期两天的公共利益科技大学网络年度会议的一个环节，与会者探讨了大学如何与政府、私营部门和社区组织合作，促进公共利益技术和应对现代挑战。

讨论强调了消除算法偏见是多么具有挑战性，以及这项工作仍然是多么重要。在小组成员的见解中：

（从左至右）主持人Michelle Johnson和小组成员Merve Hickok、Sina Fazelpour、Manish Raghavan和Kevin Fitzpatrick。

算法的公平性始于设计

东北大学Khoury计算机科学学院哲学与计算机科学助理教授Sina Fazelpour表示，仅仅关注算法的输出是不够的。这是一些监管机构使用的一种方法，但它可能会错过不公平的结果。“算法的影响，整合工具的社会后果与设施的质量是不一样的，”他说。

相反，Fazelpour的澳门威尼斯人注册网站研究重点是数据驱动和人工智能技术中的公正、多样性和可靠性问题，他建议检查算法的生命周期，并在其创建过程中注入不同的观点。例如，审查设计、开发和部署过程可以确保数据科学家所做选择的完整性。在开发和部署团队中加入各种技术和业务背景可以提高算法的质量。

聘请不同的技术专家保障公平，并产生商业利益

万通互助人寿保险和金融服务公司成立于1851年，也是波士顿大学计算机与数据科学学院（Faculty of Computing & 数据科学）负责任地使用数据澳门威尼斯人注册网站研究、学生体验式学习和扩大参与项目的支持者。早在计算机和人工智能出现之前，保险公司就在计算风险了。如今，该公司雇佣了近100名专注于数据科学的员工，他们的背景包括科学、技术、数学和工程，万通互惠保险隐私、数据和人工智能治理主管凯文·菲茨帕特里克（Kevin Fitzpatrick）说。

Fitzpatrick表示，基于人工智能的算法使该公司能够推出人寿保险单应用程序，该应用程序可以在一天内告知客户是否获得批准，而不是等待数周的文书工作和体检。

在审查算法的公平性方面，万通互助依赖于其多学科方法、数据和人工智能治理政策。菲茨帕特里克说，该公司还聘请了医学、法律和精算科学方面的专家，以确保它遵守——甚至经常超出——适用的法律。

“关键是这种跨职能的方法。Fitzpatrick说：“我们在早期和整个部署过程中都参与了许多不同的学科。”他补充说，他领导着一个专门从事这项工作的业务部门——这表明了公司对算法公平性的承诺。

各国采用人工智能算法需要时刻保持警惕，以确保公平

人工智能和数字政策中心（Center for AI and Digital Policy）主席默夫·希科克（Merve Hickok）表示，各国政府实施算法和人工智能系统来指导决策，这引起了人们的强烈担忧，因为采用的道德方法差异很大。在其项目中，该中心发布了一份年度报告，记录了各国的人工智能政策，以及它们如何与民主原则相违背。希科克还领导了建立人工智能道德准则的工作——经济合作与发展组织（OECD）在其道德原则中使用了这项工作。

“你会惊讶于一个国家的承诺和实际澳门威尼斯人注册行动之间的差异。（他们说）我们尊重人权，但随后却使用人工智能和算法系统、自动决策系统和预测性警务，以及用于大规模监控的面部识别，”希科克说。

政策制定者面临的另一个挑战是：当一个人因算法的结果而感到委屈时，确保正当程序。“公共机构有责任确保正当程序。如果你是一个受算法决策系统影响的个体，你真的能对这个决定提出异议吗？她问。她说，缺乏这样的程序可能会对公民和整个社区造成伤害。