Прямая трансляция «Этика в искусственном интеллекте»: «Машины, судящие людей»

В рамках цикла «Коллоквиум по этике искусственного интеллекта», организованного Институтом по этике искусственного интеллекта.

Это мероприятие также является частью Культурной программы по гуманитарным наукам, которая служит одним из краеугольных камней будущего Центра гуманитарных наук имени Стивена А. Шварцмана.

За последнее десятилетие вопрос ответственности за алгоритмы стал предметом пристального внимания со стороны социологов, компьютерных специалистов, журналистов и юристов. Разоблачительные материалы вызвали бурные дискуссии о вынесении приговоров на основе алгоритмов. Исследователи разоблачили технологических гигантов, показывающих женщинам рекламу низкооплачиваемых вакансий, дискриминирующих пожилых людей, использующих обманчивые «темные паттерны» для склонения потребителей к покупкам и манипулирующих пользователями, заманивая их в лабиринты экстремистского контента. Общественно-настроенные регуляторы начали заниматься вопросами прозрачности алгоритмов и справедливости в Интернете, опираясь на работы правоведов, призывающих к соблюдению технологических процессуальных норм, нейтральности платформ и принципов недискриминации.

Эта работа по формированию политики только начинается: эксперты воплощают результаты научных исследований и требования активистов в законы и нормативные акты. Законодатели предлагают законопроекты, предусматривающие базовые стандарты прозрачности алгоритмов и их аудита. Мы вступаем на долгий путь, цель которого — обеспечить, чтобы практики найма персонала и финансового кредитования, основанные на ИИ, не применялись, если они оказывают неравное воздействие на сообщества, исторически подвергавшиеся маргинализации. И точно так же, как эта «первая волна» исследований и активизма в области алгоритмической подотчетности была направлена на отдельные столкновения с существующими системами, возникающая «вторая волна» алгоритмической подотчетности начала решать более структурные проблемы. Обе волны будут иметь решающее значение для обеспечения более справедливой и подлинно эмансипаторной политической экономики технологий. Работа второй волны особенно важна, когда речь идет о выявлении перспектив и опасностей формализации оценочных критериев.