Tin tức AI
OpenAI Ngần Ngại Phát Hành Công Cụ Phát Hiện Văn Bản Do ChatGPT Tạo Ra
OpenAI, công ty đứng sau chatbot AI đình đám ChatGPT, đã phát triển một công cụ có khả năng phát hiện học sinh gian lận bằng cách sử dụng ChatGPT để viết bài tập. Tuy nhiên, theo tờ The Wall Street Journal, công ty vẫn đang cân nhắc xem có nên phát hành công cụ này hay không.
Trong một tuyên bố với TechCrunch, người phát ngôn của OpenAI đã xác nhận rằng công ty đang nghiên cứu phương pháp “dấu chìm văn bản” (text watermarking) như được mô tả trong bài báo của tờ Journal. Tuy nhiên, OpenAI cho biết họ đang áp dụng cách tiếp cận “thận trọng” do “sự phức tạp liên quan và tác động tiềm ẩn của nó đối với hệ sinh thái rộng lớn hơn ngoài OpenAI.”
Người phát ngôn cho biết: “Phương pháp dấu chìm văn bản mà chúng tôi đang phát triển có tiềm năng về mặt kỹ thuật, nhưng có những rủi ro quan trọng mà chúng tôi đang cân nhắc trong quá trình nghiên cứu các giải pháp thay thế, bao gồm khả năng bị các đối tượng xấu lợi dụng để phá vỡ và khả năng tác động không tương xứng đến các nhóm như người không nói tiếng Anh.”
Đây sẽ là một cách tiếp cận khác biệt so với hầu hết các nỗ lực trước đây nhằm phát hiện văn bản do AI tạo ra, vốn tỏ ra không hiệu quả. Ngay cả bản thân OpenAI cũng đã đóng cửa công cụ phát hiện văn bản AI trước đó vào năm ngoái do “tỷ lệ chính xác thấp”.
Với dấu chìm văn bản, OpenAI sẽ chỉ tập trung vào việc phát hiện văn bản từ ChatGPT, không phải từ các mô hình của các công ty khác. Công cụ này sẽ thực hiện bằng cách thực hiện những thay đổi nhỏ về cách ChatGPT chọn từ, về cơ bản tạo ra một dấu chìm vô hình trong văn bản có thể được phát hiện sau đó bởi một công cụ riêng biệt.
Sau khi bài báo của tờ Journal được đăng tải, OpenAI cũng đã cập nhật bài đăng trên blog vào tháng 5 về nghiên cứu của họ xung quanh việc phát hiện nội dung do AI tạo ra. Bản cập nhật cho biết dấu chìm văn bản đã được chứng minh là “có độ chính xác cao và thậm chí hiệu quả đối với việc giả mạo cục bộ, chẳng hạn như diễn đạt lại”, nhưng đã được chứng minh là “kém hiệu quả hơn đối với việc giả mạo trên toàn cầu; như sử dụng hệ thống dịch thuật, viết lại bằng một mô hình tạo sinh khác, hoặc yêu cầu mô hình chèn một ký tự đặc biệt vào giữa mỗi từ và sau đó xóa ký tự đó.”
Kết quả là, OpenAI viết rằng phương pháp này “rất dễ bị các đối tượng xấu lợi dụng để phá vỡ”. Bản cập nhật của OpenAI cũng nhắc lại quan điểm của người phát ngôn về người không nói tiếng Anh, cho rằng dấu chìm văn bản có thể “đánh đồng việc sử dụng AI như một công cụ viết hữu ích đối với người không phải là người bản ngữ tiếng Anh.”
Việc OpenAI do dự trong việc phát hành công cụ phát hiện văn bản do ChatGPT tạo ra cho thấy những thách thức trong việc kiểm soát việc sử dụng công nghệ AI ngày càng phổ biến này. Trong khi các trường học và trường đại học đang tìm cách ngăn chặn học sinh gian lận, thì điều quan trọng là phải đảm bảo rằng các giải pháp được đưa ra không gây ra hậu quả tiêu cực ngoài ý muốn.
