AI Duolingo gặp sự cố nghiêm trọng

Trong nỗ lực ứng dụng trí tuệ nhân tạo để đẩy nhanh quá trình xây dựng khóa học, Duolingo vừa phải đối mặt với “tai nạn công nghệ” khiến một khóa học tiếng Pháp trở nên vô dụng. Sự cố xảy ra khi hệ thống AI do Duolingo triển khai đã vô tình tạo ra một loạt nội dung mà không có sự xuất hiện của các từ cơ bản nhất trong giao tiếp như “et” (và) và “ou” (hoặc) – những từ được xem là tối quan trọng trong mọi ngôn ngữ.

Theo blog chính thức của Duolingo, hệ thống AI mới có cấu trúc gồm ba phần: Tạo nội dung, Đánh giá, và Lựa chọn. AI sẽ tự tạo các câu dựa trên kế hoạch học tập, đánh giá độ hợp lý và ngữ pháp, sau đó chọn ra những câu phù hợp nhất để đưa vào bài học.

Dù quy trình có vẻ chặt chẽ, vấn đề nảy sinh ở khâu kiểm soát hệ thống tự động, khi đội ngũ kỹ sư nhận ra rất khó quan sát và hiểu rõ hành vi của AI trong quá trình vận hành. Sự cố với khóa học tiếng Pháp là ví dụ điển hình: AI đã tự động tạo ra toàn bộ nội dung mà không dùng đến những từ nối thông dụng nhất – khiến khóa học không thể sử dụng được trên thực tế.

Trước đó, CEO Luis von Ahn từng gây tranh cãi khi tuyên bố Duolingo sẽ giảm phụ thuộc vào cộng tác viên con người nhờ AI. Phát biểu này khiến nhiều người lo lắng về việc AI thay thế hoàn toàn con người trong giáo dục, buộc công ty phải lên tiếng khẳng định vẫn cần đến vai trò kiểm duyệt và hướng dẫn của đội ngũ biên tập viên thật.

Đáng chú ý, Duolingo cũng nhận ra rằng AI giỏi đánh giá nội dung của chính nó hơn là tạo ra nội dung mới. Vì vậy, phần quan trọng nhất trong hệ thống hiện nay là các “trình đánh giá” – chủ yếu là các lời nhắc (prompts) cho AI – nhằm kiểm tra cả yếu tố logic lẫn ngữ pháp của các câu đã tạo.

Mặc dù sự cố đã được khắc phục, đây là lời cảnh tỉnh cho việc quá tin tưởng vào công nghệ trong lĩnh vực giáo dục. Duolingo cho biết đang tiếp tục cải tiến hệ thống và mở rộng áp dụng sang các ngôn ngữ khác như Ý và Trung Quốc, với hy vọng tăng tốc việc phát hành khóa học mới – điều mà cộng đồng người dùng vẫn mong mỏi trong nhiều năm qua.

Trong bối cảnh AI ngày càng được tích hợp sâu vào các sản phẩm giáo dục, câu chuyện của Duolingo là minh chứng rõ ràng rằng con người vẫn đóng vai trò then chốt, đặc biệt là khi sự chính xác và tính sư phạm là điều không thể thoả hiệp.