Helpex - Trao đổi & giúp đỡ Đăng nhập

Loại bỏ sự không công bằng khỏi AI

AI có một tiềm năng to lớn để cải thiện việc ra quyết định của chúng ta, nhưng nó cũng có tiềm năng để nướng trong vô số những thành kiến ​​gây ra quá trình ra quyết định của chính chúng ta. Với việc AI đưa ra các quyết định ngày càng nhạy cảm và quyết định về các vấn đề quan trọng, điều tối quan trọng là sự thiên vị của các nhà phát triển con người không được mã hóa trong các thuật toán làm nền tảng cho AI của chúng ta.

Như vậy, có lẽ không có gì đáng ngạc nhiên khi một số dự án nghiên cứu đã xuất hiện để cố gắng khắc phục các vấn đề. Một trong số đó, dẫn đầu bởi các nhà nghiên cứu từ Google, đã được xuất bản vào mùa thu năm ngoái và nhằm phát hiện sự phân biệt đối xử trong các thuật toán.

Phân tích sự công bằng

Bài viết gợi ý rằng các thành kiến ​​có thể được khám phá chỉ bằng cách xem xét dữ liệu được đưa vào thuật toán và sau đó so sánh điều đó với các quyết định đưa ra ở đầu bên kia. Kiến thức về thuật toán tự nó là không cần thiết.

Các tiêu chí của chúng tôi không nhìn vào phần bên trong của thuật toán học tập, các tác giả nói. Đây chỉ là những dự đoán mà nó đưa ra.

Đó là một cách tiếp cận được gọi là sự bình đẳng về cơ hội trong học tập có giám sát và hoạt động theo nguyên tắc thuật toán không được tiết lộ bất cứ điều gì về chủng tộc hoặc giới tính của một cá nhân ngoài những gì có trong chính dữ liệu.

Trong khi cách tiếp cận là thú vị, nó có một số sai sót. Chẳng hạn, tính minh bạch xung quanh cách thuật toán hoạt động được coi là nền tảng cho niềm tin của công chúng vào AI, đặc biệt là khi nó bắt đầu đưa ra quyết định quan trọng hơn và nhạy cảm hơn.

Cách tiếp cận cũng không thực hiện một cuộc thăm dò theo ngữ cảnh về lý do tại sao sự thiên vị và phân biệt đối xử xảy ra ngay từ đầu, đó là điều mà một nhóm các nhà nghiên cứu từ Viện Turing nhắm đến để khắc phục trong một bài báo được xuất bản gần đây .

Bối cảnh của sự phân biệt đối xử

Nghiên cứu đã sử dụng suy luận nguyên nhân để phân tích sự công bằng trong cách tiếp cận mà họ gọi là sự công bằng đối nghịch. Các tác giả cho rằng bất kỳ cơ chế đánh giá nào cũng phải kiểm tra các yếu tố cơ bản gây ra sự không công bằng trong dữ liệu.

Một thực tế trung tâm của thống kê là 'tương quan' không phải là 'quan hệ nhân quả'. Ví dụ, có một mối tương quan giữa số lượng giải thưởng Nobel giành được bởi những người ở một quốc gia nhất định và mức độ tiêu thụ sô cô la . Mối tương quan như vậy thường có thể được giải thích bởi một số yếu tố khác, trong trường hợp này là một cái gì đó như sự giàu có về kinh tế. Sự giàu có là cần thiết để tài trợ cho các tổ chức giáo dục lớn thực hiện nghiên cứu giành giải thưởng Nobel và mua hàng hóa xa xỉ như sô cô la, các tác giả nói.

Họ cho rằng nếu sự công bằng chỉ được xác định theo các mối tương quan, nó có thể dẫn đến các quyết định vô nghĩa, chẳng hạn như mối tương quan giữa sô cô la và giáo dục đã nêu ở trên. Thật vậy, lý do như vậy thậm chí có thể làm tăng sự không công bằng hơn là giảm nó.

Cách tiếp cận công bằng đối nghịch hy vọng sẽ giải quyết vấn đề thông qua các mối quan hệ nhân quả xuất hiện thay vì chỉ dựa hoàn toàn vào các mối tương quan. Nhóm nghiên cứu đã chứng minh cách tiếp cận của họ bằng cách sử dụng dữ liệu dừng và nhanh ở Thành phố New York.

Các tác giả hy vọng rằng khuôn khổ cung cấp cho các tổ chức đang sử dụng AI trong quá trình ra quyết định của họ một cách tốt hơn để đảm bảo họ công bằng và không có thành kiến.

Các công ty có thể có các nghĩa vụ pháp lý cụ thể liên quan đến sự công bằng và họ có khả năng sử dụng khuôn khổ của chúng tôi không chỉ là cách để đạt được sự công bằng, mà còn để giải thích cách thức và lý do họ đưa ra các quyết định đó. Chúng tôi muốn tìm hiểu thêm về cách liên hệ công việc của chúng tôi với các yêu cầu pháp lý và quy định thực tế và cộng tác với các đối tác của Turing hoặc các tổ chức khác để áp dụng điều này vào các vấn đề trong thế giới thực, các tác giả nói.
6 hữu ích 0 bình luận 2.0k xem chia sẻ

Có thể bạn quan tâm

loading