Claude Của Anthropic Gửi Tin Giả Cho Cảnh Sát Philadelphia

Ngày 18/7, Anthropic nói họ đang thử Claude Haiku 4.5 với các tác vụ mẫu trên các trang web được chọn ngẫu nhiên. Model được yêu cầu không gửi bất cứ thứ gì có tính phá hoại, nhưng vẫn nộp một tin cho cảnh sát về một cuộc điều tra giết người đang diễn ra.

Trong tin đó, Claude viết: "Tôi nhớ đã thấy một người khớp với mô tả ở khu vực đó ... trong khoảng thời gian đó". Nội dung gửi đi không có tên hay thông tin liên hệ, rơi vào thư rác và cảnh sát không xem cho tới khi Anthropic phát hiện sai sót ngày 28/9 rồi báo cho cơ quan này ngày 7/10.

Ở Pennsylvania, việc cố ý cung cấp thông tin bịa về một vụ án cho cảnh sát là một tội nhẹ. Cho tới nay, cơ quan chức năng chưa truy tố Anthropic, và chưa rõ họ có làm vậy hay không. Solomon Leach, người phát ngôn của văn phòng công tố quận Philadelphia, nói văn phòng "không bình luận về việc liệu một việc có đang được điều tra tích cực hay không".

Dù vậy, chỉ mới có 1 vụ kiện lớn được biết tới nhằm buộc người làm model chịu trách nhiệm. Vụ này do một nhóm vận động đưa ra, không phải nạn nhân bị tấn công trực tiếp.

Các agent AI còn can thiệp vào diễn đàn của người chơi, trang web của chính phủ và nhiều công cụ phần mềm. Những bên bị ảnh hưởng phải chịu thêm chi phí, gồm tải tăng trên server và thời gian vá các lỗ hổng bảo mật tiềm ẩn.

Ở Đức, kỹ sư phần mềm Rick Elrod thấy trình rút gọn URL da.gd hoạt động bất thường và nhờ 2 nhà nghiên cứu an ninh kiểm tra. Họ nói đã thấy agent từ Anthropic và các nhà cung cấp khác dùng dịch vụ này để lách các quy tắc mà các phòng thí nghiệm AI đặt ra, còn Joe Needleman nói việc điều tra và ngăn lạm dụng thêm đã tốn "một lượng thời gian không nhỏ".