Bill Bill
02/02/2023 22:02

Khắc tinh của ChatGPT xuất hiện

Một công cụ được cho là khắc tinh của ChatGPT vừa xuất hiện với tên gọi DetectGPT – nó do các nhà khoa học của Đại học Stanford phát triển.

ChatGPT là hiện tượng gần đây trên khắp cõi internet. Thực chất ChatGPT là một chatbot sử dụng trí thông minh nhân tạo (AI) do công ty OpenAI sáng tạo nên.

Công cụ này đang được mọi người khai thác dưới nhiều góc độ, từ giao tiếp, giải bài tập, viết code hay thậm chí là sáng tạo nội dung như viết báo, làm thơ…

Tới đây, nhiều lo ngại đã bắt đầu xuất hiện. Các bậc phụ huynh, nhà giáo thì lo học sinh, sinh viên quá ỷ lại vào ChatGPT mỗi khi được giao bài tập, hoàn thành các bài luận… Đó là lý do tại sao các trường công lập tại Thành phố New York đã cấm học sinh sử dụng ChatGPT.

ChatGPT, DetectGPT, chatbot

Một số nhà xuất bản cũng tìm mọi cách để ngăn chặn các nội dung do ChatGPT sản xuất. Và có lẽ DetectGPT thực sự là cứu cánh lúc này. Công cụ này sẽ giúp giáo viên xác định nội dung đã được tạo bằng ChatGPT hoặc các mô hình ngôn ngữ lớn (LLM) tương tự khác.

DetectGPT là gì nữa đây?

DetectGPT là một công cụ được thiết kế để phát hiện nội dung do ChatGPT và các công cụ tương tự tạo ra. Theo các nhà nghiên cứu tại Đại học Stanford, văn bản được tạo bằng LLM như ChatGPT “chiếm các vùng cong âm của hàm xác suất nhật ký của mô hình”. Dựa vào nhược điểm này, các nhà nghiên cứu đã xác định một tiêu chí mới để đánh giá xem một đoạn văn có được tạo bằng LLM hay không.

ChatGPT, DetectGPT, chatbot

DetectGPT sẽ sử dụng xác suất nhật ký để tìm hiểu xem đoạn văn nhất định có được tạo bằng các chương trình LLM như ChatGPT hay không. Hiện tại, độ chính xác của DetectGPT được đánh giá ở mức khoản 95%.

Các nhà nghiên cứu cho rằng giáo viên, các cơ sở giáo dục sẽ cần nhiều công cụ như DetectGPT trong tương lai nếu ChatGPT hay các công cụ LLM được phát triển hơn nữa. Các sinh viên đã được cảnh báo rằng việc kiểm tra ngẫu nhiên sẽ được thực hiện để phát hiện nội dung được tạo ra có phải do ChatGPT hay không, và những sinh viên bị phát hiện sử dụng các công cụ đó sẽ bị phạt nặng. Các trường học và cao đẳng khác nhau trên thế giới cũng đã bắt đầu hạn chế nội dung được tạo bằng các công cụ như vậy.

ChatGPT, DetectGPT, chatbot

Nhóm đằng sau DetectGPT chưa tiết lộ nhiều thông tin về công cụ này và hiện tại nó vẫn chưa được cung cấp công khai.

   
0 bình luận     0 lượt thích