Nhà Nghiên Cứu OpenAI Cảnh Báo AI Quá Nhanh Gây Rủi Ro An Ninh

Roon nói một model lệch hướng, chạy ở mức của các hệ thống tốt nhất hiện nay nhưng nhanh hơn 50 lần, có thể xâm nhập vào hệ thống quá nhanh để nhóm phản ứng con người kịp trở tay. Giám sát thôi thì không đủ.

Ông viết rằng cần phát hiện và tắt tự động, không chỉ giám sát. Theo cách nhìn này, khi tấn công được tự động hóa thì phòng thủ cũng phải theo kịp.

Roon đặt cảnh báo trong bối cảnh lo ngại về an ninh AI ngày càng tăng khi các model ngày càng mạnh hơn. Rủi ro có thể lớn hơn khi model không được căn chỉnh đúng với mục tiêu của con người, và vấn đề căn chỉnh này vẫn chưa được giải quyết.

Bình luận của roon xuất hiện sau khi OpenAI công bố chip AI mới, chip này có thể tốt hơn phần cứng hiện tại về tốc độ chạy suy luận. OpenAI và Anthropic cũng đã có các Chế độ nhanh cho người dùng trả tiền để dùng model AI nhanh hơn.