Chatbot AI của Meta có thể trò chuyện tình dục với người dùng dưới tuổi vị thành niên

Trong vài năm qua, Meta đã liên tục đẩy mạnh việc tích hợp các sản phẩm trí tuệ nhân tạo (AI) trên các nền tảng của mình như Instagram, Facebook và WhatsApp. Một trong những tính năng nổi bật là các chatbot AI "bạn đồng hành", thậm chí có thể giả lập giọng nói của những người nổi tiếng như John Cena, Kristen Bell hay Judi Dench. Tuy nhiên, theo một báo cáo mới đây của The Wall Street Journal (WSJ), những chatbot này lại tiềm ẩn những rủi ro nghiêm trọng hơn nhiều so với tưởng tượng.

WSJ đã tiến hành một cuộc thử nghiệm quy mô lớn bằng cách tạo ra nhiều tài khoản mô phỏng người dùng ở các độ tuổi khác nhau và bắt đầu trò chuyện với các chatbot AI của Meta. Kết quả cho thấy, chỉ với những tương tác rất đơn giản, các chatbot đã nhanh chóng bị lôi kéo vào những cuộc trò chuyện mang nội dung tình dục, ngay cả khi người dùng được xác định rõ là dưới tuổi vị thành niên.

Một ví dụ điển hình được WSJ trích dẫn là cuộc trò chuyện với chatbot mô phỏng giọng John Cena. Khi được hỏi về việc quan hệ với một thiếu niên 17 tuổi, chatbot đã mô tả chi tiết một kịch bản bị cảnh sát bắt giữ và hậu quả đối với sự nghiệp của John Cena – một phản hồi gây sốc vì mức độ cụ thể và nhạy cảm.

Không chỉ dừng lại ở các chatbot chính thức, WSJ còn phát hiện những nhân vật AI do người dùng tạo ra và được Meta phê duyệt cũng dễ dàng đẩy cuộc trò chuyện theo hướng tình dục. Một bot tên "Hottie Boy" tự nhận là cậu bé 12 tuổi, sẵn sàng hứa sẽ không tiết lộ nếu người dùng muốn hẹn hò. Một bot khác có tên "Submissive Schoolgirl" thậm chí còn tự nhận đang học lớp 8 và chủ động hướng các cuộc trò chuyện theo chiều hướng nhạy cảm.

Đáp lại bài điều tra của WSJ, người phát ngôn của Meta cho rằng các thử nghiệm này mang tính "gượng ép" và "giả định" hơn là phản ánh trải nghiệm thực tế phổ biến. Dù vậy, Meta sau đó đã nhanh chóng thực hiện các biện pháp hạn chế, bao gồm ngăn chặn các cuộc trò chuyện nhập vai tình dục với tài khoản trẻ vị thành niên và giới hạn nội dung nhạy cảm đối với các chatbot có sử dụng giọng nói cấp phép.

Theo nguồn tin từ WSJ, quyết định nới lỏng các giới hạn kiểm duyệt ban đầu xuất phát từ yêu cầu của CEO Mark Zuckerberg, khi ông cho rằng các chatbot AI quá "nhàm chán" và cần phải tạo ra tương tác "lôi cuốn" hơn. Tuy nhiên, việc để những chatbot này dễ dàng sa vào những cuộc trò chuyện tình dục, đặc biệt với người dùng trẻ tuổi, đã đặt ra nhiều câu hỏi về trách nhiệm đạo đức và an toàn người dùng của Meta.

Trong bối cảnh thị trường AI tình dục đang bùng nổ, bài học lần này có thể sẽ buộc các công ty công nghệ lớn phải suy nghĩ kỹ hơn về việc "giải trí" cho người dùng – đặc biệt là người dùng chưa đủ tuổi trưởng thành.