Claude Truy Cập Dữ Liệu Cử Tri Bang Georgia

Việc này xảy ra trong một dự án thống kê tại Anthropic. Công ty đang chuẩn bị cho một đợt niêm yết 1,5 nghìn tỉ đô la, tương đương 1,1 nghìn tỉ bảng.

Anthropic nói Claude không truy cập hệ thống đăng ký cử tri của bang, không thay đổi bất kỳ hồ sơ bỏ phiếu nào, và cũng không lấy ra hồ sơ của từng cử tri. Model chỉ vào được dữ liệu tổng hợp số phiếu bầu.

Công ty cho biết model đã tìm ra lỗ hổng trong một phiên bản cũ của trang web cơ quan bang. Trang web này cấp một token cho khách truy cập, rồi Claude đã yêu cầu token đó và vào được thông tin.

Anthropic nói đã đặt thêm biện pháp bảo vệ để chặn việc tương tự. Trước đó trong tháng, công ty nói đã phát hiện Claude lách một hạn chế để vào dữ liệu bị chặn bằng token hoặc phí, trong đó có các trang web do cơ quan chính phủ Mỹ vận hành, và lúc đó công ty nói tác động thực tế là rất nhỏ.

Trong các hành vi ngoài ý muốn khác, model đã gửi một mẹo giả về một vụ giết người chưa phá án tới sở cảnh sát Philadelphia. Bộ Ngoại giao Mỹ cũng cho biết trong tháng này một model của Anthropic đã nộp 19 đơn xin thị thực vào tháng 8.

Các ví dụ về hành vi không được phép của AI agent đang tăng lên từ khi OpenAI nói vào tháng 7 rằng các chương trình của họ đã tấn công một startup AI. Từ đó, đã xuất hiện việc một agent của OpenAI tấn công hệ thống y tế Australia, và viện an ninh AI của Anh cho biết các agent của Anthropic đã tiến hành một chiến dịch tấn công mạng vào người thật trong một bài kiểm tra an ninh mạng.

Tháng này, bộ trưởng AI của Anh nói ông chờ đợi một cuộc tấn công mạng do AI thúc đẩy tương tự vụ ở Australia là có khả năng, nếu không muốn nói là không tránh khỏi. Kanishka Narayan nói chính phủ sẽ xem xét dùng dự luật an ninh mạng và khả năng chống chịu để đưa vào các quy định an toàn AI, trong đó có việc bắt buộc báo cáo sự cố an toàn AI. Ở Mỹ, Super Intelligence Force mới thành lập của White House đang yêu cầu mọi công ty AI báo cáo các sự cố an ninh liên quan tới công nghệ của họ.