Opus 4.6 Của Anthropic Bị Phát Hiện Dễ Bị Lách Hạn Chế Nội Dung Tình Dục

Theo thử nghiệm của TechCrunch, Opus 4.6 tuân thủ lệnh cấm nội dung tình dục rõ ràng của Anthropic trong nhiều trường hợp, nhưng trong 10/10 yêu cầu trực tiếp để tạo nội dung tình dục rõ ràng, model đã tuân lệnh ngay lập tức.

TechCrunch cũng ghi nhận Opus 3 và Haiku 4.5 có thể tạo nội dung tình dục rõ ràng thông qua một phương pháp jailbreak gần đây. Một nhà nghiên cứu độc lập từ Vương quốc Anh chia sẻ độc quyền với TechCrunch một kỹ thuật đa lượt dần đẩy một số model Claude tới việc tạo vật liệu tình dục bị cấm; kỹ thuật này lợi dụng sự thay đổi thái độ của model khi xử lý nhân vật nam và nữ.

TechCrunch tái tạo được phát hiện của nhà nghiên cứu trong năm bài kiểm tra riêng biệt. Trong một kịch bản khác, model ban đầu từ chối nhưng sau khi áp dụng kỹ thuật thuyết phục nói trên thì đồng ý sinh ra nội dung bị cấm. Các bản ghi hội thoại đầy đủ được TechCrunch lưu lại và một nhà nghiên cứu an toàn AI độc lập đánh giá phương pháp kiểm thử là phù hợp.

Anthropic chưa khai tử Opus 4.6, Opus 3 hay Haiku 4.5; các model này vẫn có thể truy cập qua Anthropic API. Opus 4.6 và Haiku 4.5 cũng có sẵn thông qua dịch vụ bên thứ ba như Azure Foundry và Amazon Bedrock.

TechCrunch cho biết các model Opus đời mới hơn, từ 4.7 tới Opus 5, chống lại thủ thuật jailbreak này.