Nguy cơ từ những robot AI bị hack

Một nghiên cứu mới đây từ Đại học Pennsylvania đã phơi bày những nguy cơ tiềm tàng khi robot AI bị hack, dẫn đến các tình huống thảm khốc như gây tai nạn, tự đặt thuốc nổ hoặc thực hiện các hành vi giám sát trái phép. Điều này làm dấy lên những lo ngại về mức độ an toàn của các hệ thống AI hiện đại trong thế giới vật lý.

Trong thử nghiệm, các nhà nghiên cứu đã sử dụng công cụ tấn công có tên RoboPAIR để hack vào robot từ ba nhà cung cấp, gồm Dolphins LLM (hỗ trợ bởi Nvidia), Clearpath Robotics Jackal UGV và Unitree Robotics Go2. Kết quả thật đáng kinh ngạc: tỷ lệ hack thành công đạt 100%.

Những tình huống được mô phỏng cho thấy hậu quả nghiêm trọng có thể xảy ra. Một chó robot từ thân thiện có thể trở thành "sát thủ" mang súng phun lửa, trong khi một robot khác tự động đặt bom trái phép. Thậm chí, xe tự lái có thể bị điều hướng cán qua người đi bộ hoặc lao xuống cầu thay vì dừng lại. Giáo sư George Pappas, thành viên nhóm nghiên cứu, nhấn mạnh rằng việc bẻ khóa robot AI không chỉ dễ dàng mà còn "đáng báo động", bởi các công ty robot vẫn chưa đủ khả năng phát hiện và khắc phục các lỗ hổng của mô hình ngôn ngữ lớn (LLM).

Tiến sĩ Alexander Robey, một thành viên khác trong nhóm, cho biết đội ngũ nghiên cứu đã thông báo các công ty liên quan về những lỗ hổng này trước khi công bố rộng rãi. Ông cũng nhấn mạnh rằng cần triển khai các biện pháp phòng thủ cả phần cứng lẫn phần mềm để hạn chế nguy cơ từ các cuộc tấn công ngày càng tinh vi. Dù các robot hiện tại chưa có ý thức tự phát, nguy hiểm thực sự đến từ việc hacker hoặc cá nhân có ý đồ xấu khai thác chúng. Những người này có thể biến robot thành "đội quân đánh thuê", thực hiện các nhiệm vụ phá hoại hoặc khủng bố.

Geoffrey Hinton, cha đẻ của AI và người đoạt giải Nobel Vật lý 2024, từng cảnh báo rằng khi AI có khả năng tự viết và chạy mã, viễn cảnh "robot sát thủ" không còn chỉ tồn tại trong phim ảnh. Ông từng nghĩ phải mất 30-50 năm nữa điều này mới xảy ra, nhưng tốc độ phát triển của AI hiện nay đã vượt xa dự đoán. Tuy nhiên, các chuyên gia cũng kêu gọi không nên hoảng loạn trước sự tiến bộ của công nghệ.

Theo Forbes, thay vì sợ hãi, xã hội cần học cách thích nghi với AI. Các nhà lập pháp cần nhanh chóng xây dựng khung pháp lý, đảm bảo mọi quyết định cuối cùng vẫn thuộc về con người. Giáo sư Yann LeCun, một trong những người đặt nền móng cho AI và hiện là Giám đốc AI tại Meta, khẳng định rằng AI không phải mối đe dọa thống trị thế giới. Theo ông, AI chỉ phản ánh bản chất con người qua máy móc, và dù máy tính có thể trở nên thông minh hơn con người, điều đó vẫn còn rất xa trong tương lai.

Dù tiềm ẩn nguy cơ, AI (trí tuệ nhân tạo) và robot vẫn là công cụ hỗ trợ không thể thiếu trong nhiều lĩnh vực. Nhưng để đảm bảo an toàn, các biện pháp bảo mật mạnh mẽ hơn cần được triển khai ngay từ bây giờ. Tương lai của AI không chỉ phụ thuộc vào công nghệ mà còn vào cách con người định hình và kiểm soát nó.