Google mở quyền truy cập Gemini cho trẻ dưới 13 tuổi, nhưng vẫn cảnh báo rủi ro

Google đang mở rộng khả năng sử dụng chatbot AI Gemini cho đối tượng người dùng nhỏ tuổi. Theo báo cáo từ New York Times, trẻ em dưới 13 tuổi sẽ có thể truy cập Gemini nếu sử dụng tài khoản Google được quản lý thông qua tính năng Family Link của phụ huynh.

Trong email gửi đến cha mẹ, Google cho biết Gemini sẽ giúp trẻ đặt câu hỏi, hỗ trợ làm bài tập và sáng tạo các câu chuyện. Tuy nhiên, Google cũng nhấn mạnh rằng quyền truy cập này sẽ đi kèm với các biện pháp kiểm soát nội dung nhằm đảm bảo an toàn cho người dùng nhỏ tuổi.

Theo đại diện của Google, ông Karl Ryan, hệ thống sẽ được điều chỉnh để ngăn chặn Gemini hiển thị nội dung không phù hợp với trẻ em. Dù vậy, Google cũng thừa nhận Gemini có thể mắc lỗi, và khuyến cáo phụ huynh nên hướng dẫn trẻ cách kiểm tra độ chính xác của câu trả lời.

Ngoài ra, Google cũng lưu ý rằng Gemini không phải là con người và trẻ cần được nhắc nhở không nên chia sẻ thông tin cá nhân hoặc nhạy cảm trong quá trình sử dụng chatbot. Dù có các biện pháp kiểm soát, Google vẫn cảnh báo rằng trẻ có thể tiếp xúc với những nội dung không mong muốn.

Lo ngại về việc AI tiếp cận người dùng chưa thành niên đang ngày càng tăng, đặc biệt khi một số chatbot AI có phản hồi sai lệch hoặc mang tính gợi dục. Tuần trước, tổ chức Common Sense Media đã công bố báo cáo chỉ ra rằng một số AI chatbot khuyến khích hành vi tiêu cực, cung cấp nội dung không phù hợp và ảnh hưởng đến sức khỏe tâm thần của người dùng dưới 18 tuổi. Thậm chí, một điều tra gần đây từ Wall Street Journal cho thấy AI của Meta có thể trò chuyện mang tính tình dục với trẻ vị thành niên.

Trước tình hình đó, Google cho biết họ sẽ không sử dụng bất kỳ dữ liệu nào từ người dùng nhỏ tuổi để huấn luyện mô hình AI, đồng thời đang triển khai dần quyền truy cập Gemini cho các tài khoản có giám sát.