Dấu Chìm TextGrain Của OpenAI Gặp Khó Với Luật EU

EU hiện yêu cầu văn bản do AI tạo ra phải có dấu chìm để có thể nhận diện. Nhưng chưa có chuẩn pháp lý rõ ràng để đo mức hiệu quả của dấu chìm, nên chưa chắc textGrain sẽ đáp ứng các quy định minh bạch của châu Âu.

Dấu chìm là phần vô hình với người đọc. Kết quả dương tính không cho biết con người đã đóng góp bao nhiêu cho một đoạn, còn kết quả âm tính cũng không chứng minh đoạn đó do người viết.

Tỷ lệ báo nhầm của OpenAI là 1%, tức bộ phát hiện được thiết kế để gắn nhầm khoảng 1 trong 100 đoạn không có dấu chìm. Trên các câu hỏi tâm lý từ cơ sở dữ liệu ELI5, hệ thống phát hiện dấu chìm trong khoảng 80% đoạn 200 token, so với 95% đoạn 400 token.

Dấu chìm dùng một khóa bí mật để tạo ra các giá trị ngẫu nhiên giả, rồi ảnh hưởng đến token mà model chọn. Điểm khác của textGrain là nó coi độ khó đoán là một nguồn có thể phân bổ.

Nhà phát triển tự đặt mức độ khó đoán muốn cho phép, còn textGrain điều chỉnh theo mục tiêu đó. Cách này giúp cân bằng giữa tín hiệu dễ phát hiện và việc giữ lại độ đa dạng trong đầu ra của model.

Xiang Li, tác giả cùng của báo cáo kỹ thuật về textGrain và là nghiên cứu sau tiến sĩ tại University of Pennsylvania, nói đây là một giới hạn cơ bản của công nghệ dấu chìm cho AI. Ông cho biết các đoạn ngắn có thể không có đủ bằng chứng dấu chìm để phát hiện tin cậy, còn sửa thêm sẽ làm tín hiệu yếu đi.