Người đầu tiên ở Trung Quốc bị bắt vì ChatGPT

Cảnh sát Trung Quốc đã bắt giữ một người đàn ông bị cáo buộc đã sử dụng ChatGPT để tạo tin tức giả mạo và lan truyền nó trên mạng internet. Đây có thể là vụ bắt giữ đầu tiên của quốc gia này liên quan đến việc sử dụng chatbot.

Cảnh sát ở tỉnh Cam Túc phía tây bắc Trung Quốc cho biết trong một tuyên bố hôm Chủ nhật rằng một nghi phạm họ Hong đã bị giam giữ vì “sử dụng công nghệ trí tuệ nhân tạo để tạo ra thông tin sai lệch và không đúng sự thật”.

Vụ việc bắt đầu gây chú ý khi cảnh sát phát hiện ra một bài báo giả mạo tuyên bố 9 người đã thiệt mạng trong một vụ tai nạn tàu hỏa ở địa phương vào ngày 25 tháng 4.

Các nhân viên an ninh mạng ở quận Kongtong đã điều tra ra được bài báo được đăng đồng thời bởi hơn 20 tài khoản trên Baijiahao, một nền tảng kiểu blog do gã khổng lồ công cụ tìm kiếm Baidu của Trung Quốc điều hành. Câu chuyện đã nhận được hơn 15.000 lượt truy cập vào ở thời điểm đó.

Đây là lần đầu tiên công chúng biết về một vụ bắt giữ của chính quyền Trung Quốc sau khi các điều khoản đầu tiên của Bắc Kinh quy định việc sử dụng công nghệ “deepfake” chính thức có hiệu lực vào tháng Giêng.

Theo Luật mới này thì “tổng hợp sâu” - bao gồm học sâu và thực tế tăng cường – để tạo văn bản, hình ảnh, âm thanh và video cũng như để tạo các kịch bản ảo.

Cảnh sát cho biết họ đã lần ra nguồn gốc của bài báo đến từ một công ty thuộc sở hữu của nghi phạm Hong, công ty này điều hành các nền tảng truyền thông cá nhân được đăng ký tại Thâm Quyến, tỉnh Quảng Đông, miền nam Trung Quốc. Khoảng 10 ngày sau, một đội cảnh sát đã lục soát nhà và máy tính của Hong và bắt giữ anh.

Tuyên bố cho biết Hong thú nhận đã bỏ qua chức năng kiểm tra trùng lặp của Baijiahao để xuất bản trên nhiều tài khoản mà anh ta có được. Anh ta nhập các yếu tố của các câu chuyện xã hội thịnh hành ở Trung Quốc trong những năm qua vào ChatGPT để nhanh chóng tạo ra các phiên bản khác nhau của cùng một câu chuyện giả mạo và tải chúng lên tài khoản Baijiahao của mình.

Mặc dù ChatGPT không có sẵn trực tiếp cho các địa chỉ IP của Trung Quốc, nhưng người dùng Trung Quốc vẫn có thể truy cập dịch vụ của họ nếu họ có kết nối VPN đáng tin cậy.