5

Rõ ràng là khi chúng ta phát triển cái gọi là  siêu trí tuệ , nó sẽ có khả năng cho những thứ mà chúng ta hiếm khi có thể hình dung được. Thật vậy, phần lớn những ẩn số chưa biết này có nguy cơ lớn nhất khi nói đến sự phát triển của AI.

Tuy nhiên, điều này sẽ không, và không nên, ngăn chúng ta cố gắng giảm thiểu một số rủi ro được đưa ra nếu AI trở nên tồi tệ.

Là một phần của quá trình này, các nhà nghiên cứu đã cố gắng tạo ra một trí thông minh độc hại. Trong một bài báo được xuất bản gần đây , họ khám phá loại môi trường sẽ thấy một cỗ máy ác tính xuất hiện.

Trí thông minh ác tính

Họ xác định một số yếu tố, trong đó yếu tố quan trọng nhất là thiếu bất kỳ loại giám sát quy định nào, trong nội bộ công ty hoặc rộng rãi hơn.

Nếu một nhóm quyết định tạo ra một trí thông minh nhân tạo độc ác, thì theo đó, việc ngăn chặn một ủy ban giám sát toàn cầu ra đời sẽ làm tăng khả năng thành công của họ, họ nói.

Họ tiếp tục đề xuất rằng thành công của kế hoạch này có thể được cải thiện bằng cách hạ thấp tiến trình đang đạt được trong công việc của họ, hoặc những rủi ro liên quan đến AI phát triển cao. Mục đích tổng thể sẽ là gieo mầm nghi ngờ trong tâm trí công chúng về sự nguy hiểm của AI.

Minh bạch

Một điều kiện quan trọng thứ hai sẽ là một mã nguồn đóng. Các tác giả cho rằng điều này không chỉ do sự thiếu minh bạch mà điều này sẽ có khả năng mà còn bởi vì các hệ thống khép kín có xu hướng có mức độ bảo mật thấp hơn các hệ thống nguồn mở hơn. Điều này tự nó sẽ gây ra một rủi ro đáng kể.

Có thể nói, có những rủi ro như nhau liên quan đến mã nguồn mở, với tính minh bạch này vừa là một lợi ích trong việc mở ra nhiều thứ khác để tìm kiếm các cải tiến, nhưng cũng để kẻ gian tìm cách thao túng các vấn đề.

Cho đến nay, phần lớn các tiến bộ đã đến thông qua các hệ thống khép kín từ các công ty như Google và IBM, với giải pháp thay thế nguồn mở chính thông qua OpenAI của Elon Musk, rất tuân thủ các khuyến nghị được nêu trong bài báo.

Với việc Musk cũng đã cung cấp kinh phí cho công việc của một trong những tác giả của bài viết này, có thể dễ dàng tranh luận rằng có một chương trình nghị sự đằng sau công việc của họ.

Mặc dù tôi không nói rằng bài báo cung cấp một câu trả lời dứt khoát, nhưng nó hy vọng sẽ khơi dậy một cuộc trò chuyện về cách tốt nhất để phát triển một công nghệ có khả năng có tác động lớn hơn đến nhân loại hơn bao giờ hết.

|