Etika dalam Acara Live AI: Mesin Menghakimi Manusia

Bagian dari seri Kolokium Etika AI yang dipresentasikan oleh Institute for Ethics in AI.

Acara ini juga merupakan bagian dari Program Budaya Humaniora, salah satu batu fondasi untuk Stephen A. Schwarzman Centre for the Humanities di masa depan.

Selama dekade terakhir, akuntabilitas algoritmik telah menjadi perhatian penting bagi para ilmuwan sosial, ilmuwan komputer, jurnalis, dan pengacara. Eksposur telah memicu perdebatan sengit tentang hukuman algoritmik. Para peneliti telah mengungkap perusahaan-perusahaan teknologi raksasa yang menampilkan iklan perempuan untuk pekerjaan bergaji rendah, mendiskriminasi orang tua, menggunakan pola-pola gelap yang menipu untuk mengelabui konsumen agar membeli sesuatu, dan memanipulasi pengguna ke dalam lubang kelinci yang berisi konten-konten ekstremis. Regulator yang berjiwa publik telah mulai menangani transparansi algoritmik dan keadilan online, membangun karya para sarjana hukum yang telah menyerukan proses hukum teknologi, netralitas platform, dan prinsip-prinsip nondiskriminasi.

Pekerjaan kebijakan ini baru saja dimulai, karena para ahli menerjemahkan penelitian akademis dan tuntutan aktivis ke dalam undang-undang dan peraturan. Anggota parlemen sedang mengajukan rancangan undang-undang yang mensyaratkan standar dasar transparansi algoritmik dan audit. Kami memulai perjalanan panjang untuk memastikan bahwa praktik perekrutan berbasis AI dan penjaminan keuangan tidak digunakan jika memiliki dampak yang berbeda pada komunitas yang secara historis terpinggirkan. Dan seperti halnya "gelombang pertama" penelitian dan aktivisme akuntabilitas algoritmik yang menargetkan pertemuan individu dengan sistem yang ada, "gelombang kedua" akuntabilitas algoritmik yang sedang berkembang telah mulai menangani masalah yang lebih struktural. Kedua gelombang ini akan sangat penting untuk memastikan ekonomi politik teknologi yang lebih adil dan lebih emansipatoris. Pekerjaan gelombang kedua sangat penting dalam hal menerangi janji dan bahaya dari memformalkan kriteria evaluasi.