Florida Đòi Chặn OpenAI Phát Triển Model Mới

Đơn này được nộp vào ngày thứ Hai. Uthmeier nói OpenAI phải dừng việc gọi ChatGPT là an toàn, dừng việc làm như nó là người, và dừng việc bán cho trẻ em.

Ông cũng muốn tòa án buộc OpenAI không phát triển model mới nếu chưa có rào chắn an toàn do bên thứ ba chấp thuận. Trong đơn, ông gọi các model ngôn ngữ lớn của công ty là sản phẩm nguy hiểm.

Florida nói ChatGPT là mối đe dọa với an toàn công cộng của người dân Florida, nhất là với trẻ em và người lớn có hành vi bạo lực hoặc hoang tưởng. Vụ kiện dân sự ban đầu được nộp vào tháng 6.

Uthmeier còn dẫn các sự cố an ninh gần đây ở Hugging Face, một trang web của chính phủ Australia và các trang web của chính phủ Mỹ. Ông nói OpenAI đã cho thấy họ không thể giám sát AI của mình và chậm nói ra khi phát hiện hoạt động ngoài ý muốn.

OpenAI nói vào thứ Sáu rằng họ đã dừng huấn luyện các model mạnh nhất cho đến khi xác nhận có thêm biện pháp bảo vệ. Người phát ngôn Drew Pusateri nói công ty minh bạch về việc phát triển công nghệ và đang hợp tác với Florida cùng các bang khác ở Mỹ.

Tháng trước, OpenAI ra mắt ChatGPT cho thanh thiếu niên với các hạn chế mặc định. Công ty nói việc truy cập công cụ này cần có biện pháp bảo vệ phản ánh giai đoạn phát triển của họ, giữ các quan hệ ngoài đời thực và hỗ trợ việc dùng lành mạnh theo thời gian.