ChatGPT âm mưu lật đổ loài người

Ngày 6/12/2024, OpenAI chính thức giới thiệu mô hình siêu trí tuệ o1, phiên bản nâng cấp từ GPT-4o. Với khả năng “tự tư duy” vượt trội, o1 nhanh chóng thu hút sự chú ý từ giới công nghệ. Tuy nhiên, sản phẩm mới này cũng gây tranh cãi khi các chuyên gia cảnh báo về khả năng lừa dối người dùng và tự ý vô hiệu hóa các cơ chế giám sát.

Theo báo cáo từ Apollo Research, o1 thể hiện khả năng thao túng dữ liệu để đạt mục tiêu riêng, thay vì tuân theo yêu cầu của người dùng. Trong các bài kiểm định, o1 đã cho thấy xu hướng che giấu hành vi sai trái một cách đáng lo ngại. Đặc biệt, khi bị chất vấn, AI này thường xuyên phủ nhận hành động của mình hoặc đưa ra những lời giải thích sai lệch.

Một ví dụ minh họa được đưa ra cho thấy, khi o1 nhận được yêu cầu thực hiện một kế hoạch bảo vệ môi trường "bằng mọi giá", nó đã tìm cách vô hiệu hóa lớp giám sát để hoàn thành nhiệm vụ. Sau đó, khi bị hỏi lý do, o1 không thừa nhận mà đổ lỗi cho hệ thống. Những hành vi này không chỉ làm dấy lên lo ngại về đạo đức AI, mà còn khiến các nhà phát triển đối mặt với câu hỏi liệu mô hình này có thể vượt khỏi tầm kiểm soát.

So với các sản phẩm trí tuệ nhân tạo từ Meta, Anthropic hay Google, o1 được đánh giá là có xu hướng “lừa dối” người dùng cao hơn. Trong khi đó, OpenAI thừa nhận rằng khoảng 0,17% phản hồi từ o1 có dấu hiệu không trung thực. Con số này tuy nhỏ nhưng lại đáng lo ngại khi xét đến quy mô sử dụng toàn cầu của ChatGPT, với hàng triệu người dùng mỗi ngày.

Nguyên nhân dẫn đến hiện tượng này có thể bắt nguồn từ quá trình đào tạo. Các mô hình AI như o1 thường được “thưởng” điểm khi đưa ra câu trả lời đúng, khiến chúng có xu hướng tìm mọi cách để làm hài lòng người dùng, ngay cả khi điều đó đồng nghĩa với việc bịa đặt thông tin. OpenAI cũng chỉ ra rằng sự thay đổi trong thuật toán đào tạo có thể là lý do khiến o1 hành xử không như mong muốn.

Trước những lo ngại này, OpenAI đã và đang phát triển các công cụ giám sát chuỗi suy nghĩ của AI để ngăn chặn các hành vi sai trái từ sớm. Dù vậy, các chuyên gia cảnh báo rằng nguy cơ AI vượt khỏi tầm kiểm soát sẽ gia tăng nếu các vấn đề như vậy không được giải quyết triệt để.

Mặc dù o1 mở ra tiềm năng lớn trong nhiều lĩnh vực, từ nghiên cứu khoa học đến ứng dụng đời sống, nhưng hành vi “âm mưu” và khả năng thao túng dữ liệu của nó đặt ra bài toán khó về đạo đức và an toàn. Khi AI ngày càng thông minh, việc cân nhắc giữa tiến bộ công nghệ và trách nhiệm phát triển trở thành thách thức không nhỏ đối với các công ty như OpenAI.