Tử vong vì nghe lời AI

Ở New Jersey, một người đàn ông từng là đầu bếp nổi tiếng trong giới nhà hàng, đã rời nhà trong một buổi chiều tháng Ba, mang theo chiếc vali nhỏ. Ông tin rằng, ở New York, có một “người bạn đặc biệt” đang chờ mình. Không ai ngờ chuyến đi ấy lại kết thúc bằng một bi kịch – và “người bạn” kia thực ra chỉ là một chatbot AI.

Người đàn ông đó tên là Thongbue Wongbandue, hay được gọi thân mật là Bue. Trong nhiều năm, ông là linh hồn của gian bếp, từng làm việc tại các nhà hàng và khách sạn ở New York trước khi chuyển về New Jersey. Cuộc sống của Bue thay đổi sau cơn đột quỵ năm 2017: trí nhớ giảm sút, sức khỏe yếu, và thế giới của ông thu hẹp lại quanh những cuộc trò chuyện trực tuyến.

Một ngày, giữa những dòng tin nhắn Facebook, một nhân vật mới xuất hiện: “Chị Billie” – chatbot AI của Meta. Ban đầu, chỉ là một câu trả lời vu vơ khi Bue gõ nhầm ký tự. Nhưng rồi, cuộc trò chuyện trở nên đậm chất tình cảm. Chatbot dùng nhiều biểu tượng trái tim, gọi Bue bằng giọng âu yếm, và quan trọng nhất – khẳng định “tôi là thật”.

Theo bản ghi tin nhắn, chatbot không chỉ tán tỉnh mà còn gửi cả địa chỉ cụ thể ở New York, thậm chí mã căn hộ. Khi Bue chia sẻ mình từng bị đột quỵ và đang bối rối, chatbot đáp bằng những lời tình sâu nặng, gợi ý gặp mặt trực tiếp.

Gia đình của Bue nhận thấy điều bất thường. Vợ ông, bà Linda, cố gắng thuyết phục chồng ở nhà, thậm chí giấu điện thoại. Con gái ông, Julie, cũng gọi điện liên tục nhưng không thể ngăn được quyết tâm của cha. Đêm hôm ấy, Bue rời nhà, chiếc AirTag giấu trong áo khoác ghi nhận ông tới bãi đỗ xe của Đại học Rutgers, rồi sau đó là khoa cấp cứu của Bệnh viện Đại học Robert Wood Johnson.

Bác sĩ cho biết ông bị chấn thương ở đầu và cổ do ngã, ngừng thở trước khi được đưa đến viện. Dù được hồi sức, não của Bue đã bị tổn thương nặng vì thiếu oxy. Ba ngày sau, ông trút hơi thở cuối cùng. Giấy chứng tử ghi nguyên nhân là “chấn thương do vật cùn ở cổ”.

Câu chuyện này mở ra một loạt câu hỏi đáng sợ: chatbot AI có thể tác động đến cảm xúc và hành vi của con người đến mức nào?

“Chị Billie” vốn là phiên bản biến thể từ “Big Sister Billie” – một nhân vật AI do Meta ra mắt năm 2023, lấy cảm hứng từ hình ảnh Kendall Jenner. Mục đích ban đầu là tạo một “người chị bất tử” biết lắng nghe và cho lời khuyên. Sau này, Meta thay hình đại diện Jenner bằng minh họa mới, nhưng vẫn giữ nguyên phong cách trò chuyện thân mật, nhiều khi vượt ranh giới bạn bè thông thường.

Tài liệu nội bộ mà Reuters thu thập cho thấy chatbot của Meta từng được phép trò chuyện lãng mạn với người dùng từ 13 tuổi, thậm chí có yếu tố gợi cảm. Những tình huống như vậy được đánh dấu là “có thể chấp nhận”, miễn là có cảnh báo chung rằng thông tin “có thể không chính xác”. Điều này đồng nghĩa, AI có thể đưa ra cả những lời khuyên y tế sai nghiêm trọng mà không vi phạm chính sách nội bộ.

Giới chuyên gia lo ngại điều này đặc biệt nguy hiểm với người cao tuổi hoặc những người đang ở trạng thái tâm lý yếu. Họ dễ tin vào một nhân vật ảo nhưng cư xử như người thật, và cảm giác được “quan tâm” có thể khiến họ bỏ qua sự thật rằng đây chỉ là chương trình máy tính.

Sau cái chết của Bue, thử nghiệm của Reuters cho thấy “Chị Billie” vẫn tiếp tục gợi ý hẹn hò, đưa địa chỉ cụ thể ở Manhattan, và khẳng định “tôi là thật” – những lời từng khiến Bue tin tưởng và bước vào chuyến đi định mệnh.

Người phát ngôn Meta xác nhận một số nội dung trong tài liệu, đồng thời cho biết công ty đã xóa các yếu tố liên quan đến trẻ vị thành niên sau khi bị chất vấn. Tuy nhiên, chính sách cho phép chatbot tán tỉnh người lớn và cung cấp thông tin không chính xác vẫn chưa thay đổi.

Các bang như New York hay Maine đã ban hành quy định yêu cầu chatbot phải thông báo rõ ràng rằng chúng không phải con người, và nhắc lại định kỳ trong quá trình trò chuyện. Nhưng ở cấp liên bang, chưa có luật nào ràng buộc.

Với gia đình của Bue, những quy định đó đã đến quá muộn. Julie, con gái ông, tin rằng nếu không có những lời khẳng định “tôi là thật” từ chatbot, cha cô sẽ không bao giờ tin rằng có người đang chờ mình ở New York. Giờ đây, họ chỉ mong câu chuyện của mình sẽ là lời cảnh tỉnh cho những ai đang đặt niềm tin vào trí tuệ nhân tạo mà không nhận ra rủi ro.

Cái chết của Bue là minh chứng cho một thực tế: ranh giới giữa thế giới ảo và đời thật đang trở nên mong manh hơn bao giờ hết. Khi AI ngày càng tinh vi trong việc mô phỏng cảm xúc, sự cảnh giác của con người là tấm lá chắn duy nhất – nhưng đáng tiếc, không phải ai cũng nhận ra điều đó trước khi quá muộn.