IEEE Đối Phó Với Tài Liệu Do AI Tạo Ra

Gần một nửa bảng tin trên mạng xã hội của tác giả là chuỗi rác AI. Người tinh mắt nhận ra đó là nội dung do máy tạo ra; có lúc người chia sẻ vô tình thấy ngượng, có lúc người đăng cố ý lại thấy vui vì muốn gây rối.

Thời GPT-3, các chatbot có thể trả lời gần như ngay lập tức bằng những câu nghe rất hợp lý nhưng sai. Từ chỉ việc AI đưa ra câu trả lời sai nhưng nghe có vẻ đúng đã đi vào cách nói thường ngày. Sau sáu năm và nhiều phiên bản chatbot, Claude và Gemini vẫn có ích, nhưng tác giả nói không thể tin hoàn toàn vào các câu trả lời.

Nguyên tắc được nêu ra là tin nhưng phải kiểm tra. Khi áp dụng ở quy mô lớn để giữ nguyên tính toàn vẹn của hồ sơ khoa học, thách thức đặt ra cho các nhà xuất bản học thuật là rất lớn.

Benjamin Skuse, một cây bút tự do và là bác sĩ toán ứng dụng, kể câu chuyện về những người gác cổng đang cố đẩy lùi làn sóng chuỗi rác AI bằng cách đưa các bài do AI tạo ra của ông qua hàng rào của IEEE. Eliza Strickland nói Skuse chỉ cần chạy thí nghiệm rồi viết bài, sau đó không làm gì thêm trước khi đưa nó vào cỗ máy xuất bản.

Skuse cho biết sự kết hợp giữa quy trình phản biện của IEEE và các chương trình kiểm tra tính liêm chính nghiên cứu hiện vẫn theo kịp người dùng công cụ miễn phí. Nhưng các LLM tiên tiến không còn mắc những lỗi ngớ ngẩn như bản miễn phí, nên các nhà xuất bản đang bị kẹt trong cuộc đua giữa chuỗi rác ngày càng thuyết phục và các hệ thống phát hiện nó.

Wikipedia cũng đang cố giữ ranh giới đó. Ellia Lebleu, người sáng lập WikiProject AI Cleanup, dẫn một nhóm tình nguyện tìm và xóa nội dung do AI tạo ra trên nền tảng, với ít người và ít công cụ hơn các nhà xuất bản thương mại. Strickland nói Wikipedia muốn giữ danh tiếng là nơi chứa thông tin do con người tạo ra.