AI Bịa Nguồn Trong Hồ Sơ Điều Tra Ở Australia

Quy trình điều tra của chính phủ Australia vốn nhằm giúp quốc hội ra quyết định tốt hơn khi nghe ý kiến từ chuyên gia và người dân. Nhưng hệ thống này đang bị đổ vào nhiều tài liệu do AI tạo ra, trong đó có tài liệu bịa nghiên cứu và gán nghiên cứu không tồn tại cho học giả thật.

Trong một số trường hợp, các báo cáo ủy ban đã trích dẫn những bản nộp mà phần lớn nguồn trông như bịa đặt của AI, khi LLM tạo ra nội dung nhìn có thật nhưng thực ra không tồn tại. Christian Downie nói nếu tình trạng này tiếp diễn, nghị sĩ có nguy cơ ra quyết định dựa trên bằng chứng không tồn tại.

Câu chuyện còn rối hơn vì dịch vụ AI của Google. Trước đây, khi tìm một tài liệu tham khảo bịa ra, kết quả có thể cho thấy nó không tồn tại; nay bản tóm tắt AI của Google đôi khi lại tóm tắt nguồn giả như thể đó là nguồn thật.

Trong một tài liệu nộp cho cuộc điều tra về bạo lực gia đình và tự tử, Divna Haslam, phó giáo sư kiêm nhà tâm lý lâm sàng của University of Queensland, bị gán một tài liệu tham khảo bịa đặt và kết quả nghiên cứu của nhóm bà cũng bị nêu sai. Haslam nói tài liệu đó đáng sợ vì nhìn quá thật, đến mức người xem lướt qua có thể tin là có thật.

Drilldown Reports, đơn vị nộp tài liệu, cho biết họ dùng AI trong quá trình nghiên cứu và đã phát hiện lỗi trong bản nộp bổ sung, nhưng lúc đó đã quá hạn để sửa. Người phát ngôn của đơn vị này nói họ tin yếu tố con người là phần quan trọng trong quy trình rà soát.