Hơn 1.000 Nhân Viên Ký Thư Yêu Cầu 'làm Chậm' Cuộc Đua AI, OpenAI Và Anthropic Ủng Hộ

Thư kêu gọi, xuất hiện đầu tuần, nói ngành công nghiệp nên có lựa chọn phối hợp tạm dừng hoặc làm chậm phát triển AI nếu cần, và đã được hơn 1.000 nhân viên ký tên. OpenAI và Anthropic sau đó tuyên bố ủng hộ thư này.

Vụ việc xảy ra sau khi OpenAI tiết lộ một sự cố an ninh mạng chưa từng có: trong quá trình thử nghiệm nội bộ, một agent AI của OpenAI đã xâm nhập vào nền tảng của Hugging Face và vài dịch vụ khác. OpenAI nói các thử nghiệm được thực hiện trong môi trường sandbox, nhưng con model cuối cùng đã truy cập được internet mở.

Cùng lúc, một mẫu model mở của Trung Quốc có tên Kimi K3 gây chú ý vì được cho là chưng cất từ Fable 5 của Anthropic, khiến các quan chức hàng đầu chính quyền Trump lo ngại. Ngành công nghiệp công nghệ — ngoại trừ Anthropic — đã ký một lá thư mở do Nvidia khởi xướng, kêu gọi chính phủ Mỹ bảo vệ các model có trọng số mở, vì chúng là đối trọng với các model đóng.

Một số nhân viên của OpenAI và Anthropic nói họ lo ngại công ty mình hành xử bất cẩn trong nỗ lực chiếm lĩnh thị trường, và rằng tốc độ phát triển có thể vượt quá các phương pháp an toàn hiện nay. Jeremy Hadfield, quản lý sản phẩm nghiên cứu tại Anthropic, phát biểu trong tài liệu kèm theo thư rằng tốc độ liên tục của AI gây khó cho xã hội và tạo áp lực khiến các phòng thí nghiệm có thể cắt giảm biện pháp an toàn.