Trên Telegram, hơn 4 triệu người dùng mỗi tháng đang bị cuốn vào thế giới của các công cụ "cởi đồ" sử dụng trí tuệ nhân tạo (AI). Mặc dù Telegram đã nỗ lực xóa bỏ những bot này, nhưng chỉ sau một ngày, chúng lại xuất hiện trở lại.

Sự trỗi dậy của các bot lột đồ

Năm 2020, chuyên gia về deepfake, Henry Ajder, lần đầu phát hiện một bot trên Telegram có khả năng “lột đồ” các bức ảnh của phụ nữ. “Bot này đã tạo ra hơn 100.000 hình ảnh khiêu dâm, bao gồm cả những hình ảnh của trẻ em,” Ajder chia sẻ. Đây chính là cột mốc đánh dấu sự phát triển đáng sợ của deepfake và những hậu quả nghiêm trọng mà nó mang lại.

Theo khảo sát của Wired, hiện có ít nhất 50 bot trên Telegram quảng cáo khả năng tạo ra hình ảnh hoặc video khiêu dâm chỉ với vài cú nhấp chuột. Chúng có nhiều chức năng khác nhau, từ “gỡ bỏ quần áo” đến việc tạo ra hình ảnh của những người trong các hành vi tình dục khác. Không chỉ phổ biến trong cộng đồng nói tiếng Anh, các bot này còn xuất hiện trên nhiều ngôn ngữ khác.

Một thống kê đáng báo động từ Wired cho thấy hơn 4 triệu người dùng hàng tháng đang sử dụng các công cụ này, trong đó có hai bot thu hút hơn 400.000 người dùng mỗi tháng, và 14 bot khác có trên 100.000 thành viên.

Cuộc chiến bảo vệ quyền riêng tư

“Thật sự đáng lo ngại khi những công cụ này đang phá hủy cuộc sống của nhiều người, đặc biệt là các cô gái trẻ và phụ nữ. Chúng dễ dàng tiếp cận và tìm thấy trên một trong những ứng dụng lớn nhất thế giới,” Ajder nhận định. Nội dung deepfake phi đạo đức thường được gọi là lạm dụng hình ảnh thân mật không tự nguyện (NCII), đã bùng nổ kể từ cuối năm 2017. AI càng làm tăng tốc độ phát triển của loại nội dung khiêu dâm này.

Từ các thủ tướng như Italy đến các nữ sinh ở Hàn Quốc, hàng nghìn phụ nữ và trẻ em gái đang trở thành nạn nhân của loại hình ảnh này. Emma Pickering, trưởng bộ phận lạm dụng hình ảnh không đồng thuận tại tổ chức Refuge (Anh), khẳng định: “Những hình ảnh này có thể gây ra tổn thương tâm lý nghiêm trọng, tạo cảm giác nhục nhã, sợ hãi và xấu hổ cho nạn nhân.” Bà cũng cho biết, trong khi tội phạm đang gia tăng, mức độ trừng phạt dành cho họ vẫn rất thấp.

Telegram và trách nhiệm của nền tảng

Telegram đã phải đối mặt với nhiều chỉ trích vì cách quản lý lỏng lẻo đối với nội dung độc hại. Ứng dụng này thường được sử dụng bởi các nhóm cực đoan và lừa đảo. Với chức năng tìm kiếm mạnh mẽ, Telegram tạo điều kiện cho người dùng dễ dàng tìm thấy các cộng đồng, nhóm chat và bot có nội dung không lành mạnh.

Mặc dù Telegram đã nhanh chóng xóa 75 bot và kênh tạo deepfake khiêu dâm khi Wired liên hệ, nhưng nhiều kênh vẫn tiếp tục hoạt động, nhanh chóng tạo ra các bot mới để thay thế. Một chủ kênh thậm chí tuyên bố: “Ngày mai chúng tôi sẽ tạo bot khác.”

Các bot trên Telegram là những ứng dụng nhỏ hoạt động trong nền tảng, cho phép người dùng gửi tin nhắn đến hàng triệu người mà không bị giới hạn. Mặc dù nhiều bot được tạo ra với mục đích tích cực như dịch tin nhắn hay tổ chức họp trực tuyến, nhưng chúng cũng đang bị lợi dụng để tạo ra các hình ảnh deepfake vô đạo đức.

Tương lai của việc kiểm soát deepfake

Dù tốc độ phát triển của deepfake đang gia tăng chóng mặt, các nhà lập pháp và công ty công nghệ vẫn chưa kịp thời hành động. Tại Mỹ, chỉ 23 bang đã ban hành luật nhằm giải quyết vấn đề deepfake vô đạo đức. Một số công ty công nghệ lớn bắt đầu thay đổi chính sách để ngăn chặn sự lạm dụng này, nhưng nhiều ứng dụng tạo deepfake vẫn hiện diện trên các kho ứng dụng của Apple và Google.

Kate Ruane, giám đốc dự án tự do ngôn luận tại Center for Democracy and Technology, nhận định rằng các nền tảng công nghệ lớn có chính sách cấm phân phối hình ảnh không đồng thuận, nhưng việc thực thi các chính sách này trên Telegram vẫn còn nhiều lỗ hổng.

Trong bối cảnh này, cuộc chiến chống lại các bot "lột đồ" trên Telegram đang diễn ra căng thẳng, với sự cần thiết phải có những biện pháp quyết liệt hơn để bảo vệ quyền riêng tư và sự an toàn của người dùng, đặc biệt là phụ nữ và trẻ em.