关于活动
本活动隶属于人工智能伦理研究所主办的“人工智能伦理研讨会”系列。
本次活动也是“人文文化项目”的一部分,该项目是未来斯蒂芬·A·施瓦茨曼人文中心的重要基石之一。
在过去的十年里,算法问责已成为社会科学家、计算机科学家、记者和律师关注的重要议题。一系列调查报道引发了关于算法量刑的激烈讨论。 研究人员揭露了科技巨头向女性推送低薪职位广告、歧视老年人、利用欺骗性的“黑暗模式”诱导消费者购物,以及将用户引导至极端主义内容的“信息黑洞”等行为。富有社会责任感的监管机构已开始着手解决算法透明度和网络公平性问题,并在此基础上,借鉴了法学学者们关于技术正当程序、平台中立性和非歧视原则的呼吁。
这项政策工作才刚刚起步,专家们正将学术研究和活动家的诉求转化为法律法规。立法者们正在提出法案,要求制定算法透明度和审计的基本标准。我们正踏上一条漫长的道路,旨在确保如果基于人工智能的招聘实践和金融承保会对历史上被边缘化的群体产生差异性影响,则不得使用这些做法。 正如这波“第一波”算法问责研究与行动聚焦于个人与现有系统的具体互动,新兴的“第二波”算法问责浪潮已开始解决更具结构性的问题。这两波浪潮对于确保建立一个更公平、更具真正解放意义的技术政治经济体系都至关重要。在阐明将评估标准制度化所蕴含的机遇与风险方面,第二波工作尤为重要。