Thứ Tư, 28 Tháng Hai, 2024

Khủng hoảng vì ChatGPT, đại học Mỹ xây dựng công cụ phát hiện gian lận

-

Lo sợ các luận văn do ChatGPT sẽ phá hủy danh tiếng của mình, nhóm nhà nghiên cứu ở ĐH Stanford (Mỹ) đang khẩn trương phát triển công cụ có tên gọi DetectGPT, nhằm phát hiện các văn bản do ChatGPT tạo ra.

ChatGPT hiện là mô hình ngôn ngữ lớn (LLM) đang rất nóng hiện nay khi thu hút được sự quan tâm của người dùng trên khắp thế giới. Công cụ này tốt đến mức có thể tạo ra những bài luận văn cho bậc đại học, ví dụ sinh viên có thể sử dụng LLM để hoàn thành bài tập viết, khiến các giáo sư không thể đánh giá chính xác năng lực học tập…

Phương pháp của DetectGPT dựa trên ý tưởng văn bản do LLM tạo ra thường di chuyển xung quanh các vùng cụ thể của các hàm xác suất. Nó chỉ dùng các xác suất nhật ký được tính toán bởi mô hình quan tâm, các nhiễu loạn ngẫu nhiên của đoạn văn từ một mô hình ngôn ngữ được đào tạo.

Thông qua đó, các nhà nghiên cứu đã phát triển công cụ đánh giá văn bản có phải do máy tạo ra hay không, với đặc điểm của công cụ là không dựa vào việc đào tạo trí thông minh nhân tạo (AI) hoặc thu thập các bộ dữ liệu lớn để so sánh văn bản.

Phương pháp này của nhóm được gọi là “zero-shot”, cho phép DetectGPT phát hiện văn bản do AI viết, hoạt động hoàn toàn trái ngược với các phương pháp vốn thường yêu cầu dữ liệu để đào tạo “bộ phân loại” từ các nội dung thực và được ChatGPT tạo ra.

Nhóm nghiên cứu đã thử nghiệm DetectGPT trên các bài báo do CNET sử dụng AI viết trong năm 2022 và xác nhận nó vượt trội các phương pháp phát hiện văn bản do AI tạo ra. Đây là phương pháp không yêu cầu bất kỳ dữ liệu bổ sung hoặc đào tạo nào, làm nó trở thành một công cụ hiệu quả để xác định văn bản do máy tạo.

Khi việc sử dụng LLM tiếp tục phát triển, tầm quan trọng của các hệ thống tương ứng để phát hiện văn bản do máy tạo sẽ ngày càng trở nên đáng kể. DetectGPT ngoài phát hiện văn bản do ChatGPT tạo ra thì đây còn là phương pháp hứa hẹn có thể tác động đáng kể đến nhiều lĩnh vực.

Đội ngũ quản trị luôn nỗ lực hết mình để đem đến những nội dung chất lượng nhất cho độc giả là các game thủ. Mọi ý kiến đóng góp xin gửi về [email protected]. Xin trân trọng cảm ơn!

GameN

Ban biên tập

BÀI MỚI

Sony đang thử nghiệm PlayStation VR2 trên PC

Năm 2024 sẽ chứng kiến một thay đổi đáng hoan nghênh với kính thực tế ảo PlayStation VR2.

Thể thao điện tử Việt Nam đoạt chức vô địch đầu năm 2024

Thể thao điện tử Việt Nam đã vô địch môn bóng rổ thể chất số (Phygital Basketball Invitational) khi thắng đại diện của Venezuela tại chung kết Thế vận hội của Tương lai (Games of the Future 2024).

Helldivers 2 đã cơi nới mặt bằng để chứa được 700.000 CCU

Helldivers 2 tăng quy mô máy chủ lên 700.000 người chơi, nhưng liệu có đủ đáp ứng nhu cầu ngày càng lớn?

Dying Light 2 ra mắt phiên bản kỷ niệm 2 năm phát hành

Techland vừa qua đã chính thức cho ra mắt Dying Light 2 Stay Human: Reloaded Edition, phiên bản nâng cấp cho tựa game hành động cùng tên.

Follow us

5,655Thành viênThích
1,204Người theo dõiTheo dõi
2,189Người theo dõiĐăng Ký
Dành cho quảng cáo

ĐỌC NHIỀU