AI Psychiatry: Công cụ ‘giải mã’ trí tuệ nhân tạo bị lỗi

Ngày nay, trí tuệ nhân tạo (AI) được sử dụng ở khắp nơi – từ xe tự lái, robot giao hàng, đến trợ lý ảo như ChatGPT. Nhưng dù thông minh đến đâu, AI vẫn có thể bị lỗi. Một số lỗi do thiết kế sai, dữ liệu huấn luyện không đầy đủ, hoặc do bị hacker tấn công.

Vấn đề là khi AI bị lỗi, rất khó để biết lý do vì sao. Nhiều hệ thống AI hoạt động như “hộp đen”, ngay cả người tạo ra nó đôi khi cũng không biết rõ bên trong đang diễn ra điều gì.

Nhóm nhà nghiên cứu tại Viện Công nghệ Georgia (Mỹ) đã tạo ra một công cụ tên là AI Psychiatry – giúp điều tra lý do vì sao AI hoạt động sai bằng cách “hồi sinh” hệ thống đó để kiểm tra lại.

Hãy tưởng tượng một chiếc xe tự lái bất ngờ rẽ sai và gây tai nạn. Nguyên nhân là gì? Do cảm biến hỏng, do phần mềm AI hiểu sai tình huống, hay do ai đó cố ý tấn công hệ thống?

Trước đây, rất khó điều tra kỹ vì AI thường tự động cập nhật và thay đổi dữ liệu bên trong. Nhưng giờ đây, AI Psychiatry có thể tái tạo mô hình AI đúng như lúc xảy ra sự cố, giúp các chuyên gia kiểm tra lại từ đầu.

Công cụ này lấy dữ liệu từ bộ nhớ máy tính (gọi là "ảnh bộ nhớ") để dựng lại hệ thống AI bị lỗi. Sau đó, chuyên gia có thể đưa mô hình này vào môi trường an toàn để kiểm tra xem AI đã nghĩ gì và làm gì trước khi gặp lỗi.

AI Psychiatry đã được thử nghiệm với 30 mô hình AI khác nhau, trong đó có nhiều mô hình bị “gài bẫy” để hoạt động sai khi gặp một số tình huống đặc biệt. Kết quả, công cụ đã phục hồi và kiểm tra được tất cả các mô hình, kể cả những hệ thống thường dùng trong xe tự lái như nhận diện biển báo giao thông.

Điều này cho thấy, AI Psychiatry có thể giúp điều tra nguyên nhân chính xác khi AI gặp lỗi. Nếu không phát hiện ra lỗi trong phần mềm AI, công cụ này cũng giúp loại trừ nguyên nhân từ hệ thống AI để chuyển sang kiểm tra phần cứng (ví dụ như camera hỏng).

AI Psychiatry được thiết kế để tương thích với nhiều loại AI khác nhau, từ chatbot bán hàng đến hệ thống điều khiển drone. Bạn không cần biết trước cấu trúc của mô hình AI để dùng công cụ này. Chỉ cần có bản sao bộ nhớ hệ thống, AI Psychiatry sẽ làm phần còn lại.

Ngoài việc điều tra sau sự cố, AI Psychiatry còn rất hữu ích để kiểm tra định kỳ các hệ thống AI, nhất là trong các cơ quan nhà nước, nơi đang ngày càng áp dụng AI vào công việc hằng ngày. Việc kiểm tra sớm có thể ngăn chặn lỗi trước khi xảy ra, tăng tính an toàn và minh bạch.

Trong tương lai, khi AI (trí tuệ nhân tạo) tham gia ngày càng nhiều vào cuộc sống – từ y tế, giáo dục đến giao thông – chúng ta cần kiểm soát và hiểu rõ cách chúng hoạt động. Công cụ như AI Psychiatry sẽ giúp chúng ta tin tưởng hơn vào hệ thống AI, vì nếu có sự cố, chúng ta đã có cách kiểm tra rõ ràng, minh bạch.