Sự kiện trực tiếp về Đạo đức trong Trí tuệ nhân tạo: Máy móc đánh giá con người

Một phần của chuỗi hội thảo về Đạo đức Trí tuệ nhân tạo do Viện Đạo đức Trí tuệ nhân tạo tổ chức.

Sự kiện này cũng là một phần của Chương trình Văn hóa Nhân văn, một trong những nền tảng quan trọng cho Trung tâm Nhân văn Stephen A. Schwarzman trong tương lai.

Trong thập kỷ qua, vấn đề trách nhiệm giải trình của các thuật toán đã trở thành mối quan tâm quan trọng đối với các nhà khoa học xã hội, nhà khoa học máy tính, nhà báo và luật sư. Các bài điều tra đã khơi dậy những cuộc tranh luận sôi nổi về việc áp dụng thuật toán trong việc tuyên án. Các nhà nghiên cứu đã vạch trần việc các tập đoàn công nghệ khổng lồ hiển thị cho phụ nữ các quảng cáo về những công việc có mức lương thấp hơn, phân biệt đối xử với người cao tuổi, sử dụng các “mô hình tối” (dark patterns) lừa đảo để dụ dỗ người tiêu dùng mua hàng, và dẫn dắt người dùng vào những “vòng xoáy” nội dung cực đoan. Các cơ quan quản lý có tinh thần vì lợi ích công cộng đã bắt đầu giải quyết vấn đề minh bạch thuật toán và công bằng trực tuyến, dựa trên những nghiên cứu của các học giả luật pháp, những người đã kêu gọi tuân thủ quy trình pháp lý công bằng trong công nghệ, tính trung lập của nền tảng và các nguyên tắc không phân biệt đối xử.

Công tác chính sách này mới chỉ bắt đầu, khi các chuyên gia chuyển hóa các nghiên cứu học thuật và yêu cầu của các nhà hoạt động thành các đạo luật và quy định. Các nhà lập pháp đang đề xuất các dự luật yêu cầu các tiêu chuẩn cơ bản về tính minh bạch và kiểm toán thuật toán. Chúng ta đang bắt đầu bước vào một chặng đường dài nhằm đảm bảo rằng các thực tiễn tuyển dụng và thẩm định tài chính dựa trên trí tuệ nhân tạo (AI) sẽ không được sử dụng nếu chúng gây ra tác động bất bình đẳng đối với các cộng đồng vốn bị gạt ra ngoài lề xã hội từ lâu. Và cũng giống như “làn sóng đầu tiên” của nghiên cứu và hoạt động vận động về trách nhiệm giải trình thuật toán đã nhắm vào các tương tác cá nhân với các hệ thống hiện có, một “làn sóng thứ hai” mới nổi về trách nhiệm giải trình thuật toán đã bắt đầu giải quyết các vấn đề mang tính cấu trúc hơn. Cả hai làn sóng này đều rất quan trọng để đảm bảo một nền kinh tế chính trị công nghệ công bằng hơn và thực sự mang tính giải phóng hơn. Công việc của làn sóng thứ hai đặc biệt quan trọng khi nói đến việc làm sáng tỏ những hứa hẹn và nguy cơ của việc chính thức hóa các tiêu chí đánh giá.