10

Hãy tưởng tượng bạn có một đứa trẻ sáng sủa (tôi chắc chắn những người bạn có con đã làm). Bạn hy vọng họ sẽ mở rộng kinh nghiệm bằng cách nói chuyện với mọi người và học hỏi những điều mới. Họ sẽ học nhanh thôi. Và họ có thể áp dụng những gì họ đã học được vào các cuộc trò chuyện trong tương lai trở nên tốt hơn và học hỏi nhiều hơn mọi lúc. Làm thế nào để bạn giúp họ học? Cách tốt nhất để họ có được kiến ​​thức sẽ làm cho họ trở thành một người tốt hơn là gì. Làm thế nào để bạn giúp họ phát triển thành một người mà bạn có thể tự hào?

Có lẽ bạn có thể đi đến trung tâm thành phố của bạn, đến công viên thành phố. Và chỉ trong trường hợp không rõ ràng từ vẻ mặt trẻ con của chúng, bạn có thể ghim một dấu hiệu cho con bạn nói điều gì đó như "Sinh vật vô tội Gullible". Sau đó, bạn hướng dẫn con bạn nói chuyện với bất kỳ và tất cả những người tiếp cận và tất nhiên bạn bảo con bạn học những gì chúng dạy bạn . Cuối cùng, bạn đặt con bạn xuống băng ghế nơi tập trung một số người khác, sau đó bạn rời đi. Có lẽ bạn nhìn lại và thấy khuôn mặt ngây thơ đang cười của họ ngay trước khi bạn rẽ vào góc và rời khỏi công viên. Điều gì có thể đi sai?

Đến bây giờ mọi người đã nghe về Tay Tây của Microsoft và cô ấy nhanh chóng bị biến thành một kẻ nghiện phân biệt chủng tộc như thế nào. Nhưng trừ khi bạn đã làm việc trên các tác nhân ảo trong nhiều thập kỷ (như tôi), bạn có thể không nhận thức được rằng thảm họa chatbot máy học này đã xảy ra nhiều lần. Và tốc độ biến đổi AI vô tội thành một sự khó chịu ghê tởm xảy ra chủ yếu là một chức năng của trang web lưu trữ AI phổ biến như thế nào. Không bao giờ là câu hỏi liệu AI sẽ trở thành phản xã hội (hay ít nhất là kỳ quái). Nó chỉ đơn giản là một chức năng của bao nhiêu cuộc gặp gỡ trong "hoang dã". Kết hợp sự hiện diện truyền thông của Microsoft và Twitter, và như chúng tôi đã phát hiện ra, có thể tạo ra các cuộc gặp gỡ đủ để mọi thứ trở nên rất sai trong một ngày.

Đây là một trong những khái niệm của dữ liệu lớn / máy học, cung cấp đủ dữ liệu và đủ tài nguyên máy tính hơn bất cứ thứ gì có thể học được. Tôi không có nhiều hy vọng cho bất kỳ hệ thống học tập không giám sát nào có khả năng "học" để trở thành một sinh vật xã hội chấp nhận được. Chỉ cần nghĩ về kinh nghiệm cá nhân của riêng bạn. Tôi chắc rằng hầu hết các bạn đã chơi với ít nhất một bản demo "chatbot" hoặc "trợ lý ảo". Hầu hết các bạn thử một vài tương tác đơn giản chỉ để kiểm tra xem hệ thống có hoạt động không. Sau đó, một khi bạn nhận ra rằng nó không như mong đợi của bạn (hoặc hy vọng và mong muốn), bạn sẽ kiểm tra nó bằng một vài tương tác từ huyền ảo đến tinh nghịch (và khá thường là độc hại). Văn bản tương tác được thu thập chứa một hỗn hợp đáng kể của các ví dụ gây nhiễu có chủ ý.

Một lý do mà mọi người hành xử theo cách này là vì "chatbot" không được thể hiện. Trong thực tế, bạn thậm chí không "trò chuyện" (theo nghĩa nói, đó là nguồn gốc của trò chuyện từ) với phần lớn các chatbot tồn tại ngày nay. Vì vậy, "trò chuyện" với các bot này có vẻ giống như một cuộc trao đổi trên Twitter: Rancor song phương là tiêu chuẩn trong nhiều trao đổi trên Twitter. 

Tôi làm việc chủ yếu trên các bot mà mọi người thực sự có thể "nói". Và trong một số trường hợp, các bot này có hình đại diện 3-D. Chúng tồn tại trong một miền nằm giữa một con bot văn bản và một con robot biết nói. Một trong những thử nghiệm thú vị hơn mà nhóm của tôi đã thực hiện trong hơn một thập kỷ trước liên quan đến một đại lý chỉ cung cấp một loạt dịch vụ nhỏ (thời tiết, cổ phiếu, đọc email, đặt cuộc gọi, v.v.) cho nền tảng điện thoại di động. Chúng tôi đã thử nghiệm với một số personas, hai trong số đó có kết quả thú vị (nhưng có lẽ không đáng ngạc nhiên).

Đối với một trong những diện mạo, chúng tôi đã cho giọng nữ tổng hợp trưởng thành một giọng Pháp đáng chú ý (nhưng không dày đặc). Tính cách này đã thay đổi một cách tinh tế cách mọi người tương tác với tác nhân:

  1. Mọi người nói rõ hơn khi họ nói chuyện với các đại lý (chúng ta có thể đo lường điều này bằng điểm số nhận dạng giọng nói cao hơn một chút).

  2. Mọi người đã chấp nhận nhiều hơn các câu trả lời được hình thành kỳ lạ mà tác nhân đã thực hiện (do các thuật toán tạo ngôn ngữ không hoàn hảo trong hệ thống của chúng tôi). Một trong những đối tượng thử nghiệm của chúng tôi đã tình nguyện rằng họ quy cho sự kỳ lạ  đối với sự lạ lùng của đại lý .

Đối với một trong những diện mạo khác, chúng tôi đã tạo ra một tác nhân tổng hợp giống trẻ con với giọng nói sợ hãi (hơi sợ hãi). Điều này cũng dẫn đến một số thay đổi thú vị trong các tương tác:

  1. mọi người có xu hướng sử dụng các từ đơn giản hơn và các câu rõ ràng ngắn hơn.

  2. Mọi người có xu hướng giúp cuộc trò chuyện trở lại đúng hướng (một phần của thí nghiệm là tiêm một sự cố giao tiếp nhỏ). Mọi người sẵn sàng chia một nhiệm vụ thành các nhiệm vụ nhỏ hơn để hoàn thành mục tiêu.

Dưới đây là một ví dụ về tác nhân tổng hợp kết xuất 3-D của chúng tôi.


Các nghiên cứu đã chỉ ra rằng bất kỳ loại hiện thân nào của AI ở dạng vật lý xúc giác đều thay đổi đáng kể cách mọi người tương tác với nó. Mọi người ở mọi lứa tuổi ít có khuynh hướng làm những việc "gây tổn thương" để thể hiện AI. Mặc dù ví dụ dưới đây không nói hoặc nghe, nhưng nó nhận thức (chạm) và phát ra (ngôn ngữ cơ thể và âm thanh).

Quay trở lại ví dụ về một đứa trẻ học cách trò chuyện. Thông thường, một đứa trẻ học cấu trúc và cơ chế của cuộc trò chuyện như một tập hợp các nguyên thủy cơ bản bằng cách tương tác với mẹ và sau đó ngày càng gia đình ngay lập tức (cha và anh chị em) và sau đó với gia đình mở rộng (dì, chú, bạn bè gia đình đáng tin cậy). Kết hợp lòng nhân từ vốn có của con người với niềm tin bẩm sinh của một đứa trẻ, kinh nghiệm nhanh chóng tạo ra một cơ sở rộng lớn của các hành vi và niềm tin hướng dẫn đứa trẻ trong suốt cuộc đời của chúng.

Nếu chúng ta sẽ tạo ra các chatbot chất lượng thì chúng ta cần sử dụng các tương tác chất lượng. Những người cung cấp các ví dụ và giáo dục cho các chatbot cần phải được thúc đẩy để quan tâm đến kết quả. Một cách để khiến mọi người quan tâm nhiều hơn là hiện thân các chatbot, làm cho chúng có vẻ thật hơn. Mọi người có thể sẽ tử tế hơn và hỗ trợ nhiều hơn nếu họ nghĩ rằng họ có thể làm hỏng nó về mặt thể chất hoặc tinh thần. Một quan điểm bà mẹ / gia đình có thể là một điều tốt.

Chà, trên lưu ý đó, tôi sẽ hỏi Cassandra nếu cô ấy tin tưởng tôi!

|