Nghiên Cứu Chỉ Ra AI Cần Con Người Trong Nhiều Kiểu Tấn Công Mạng Mới

James Kettle trình bày tại Black Hat ở Las Vegas về khả năng và giới hạn của AI trong an ninh mạng. Ông kết luận AI chỉ có năng lực tối thiểu nhưng rất hạn chế trong việc tự mình phát triển đường tấn công mới; khi có hướng dẫn và can thiệp của con người ở những thời điểm then chốt, AI lại trở thành đối tác mạnh mẽ để hình dung và khám phá chiến lược tấn công mới.

Từ tháng 9 năm 2025, Kettle tiến hành nhiều thí nghiệm sử dụng các model mới nhất của Anthropic và OpenAI thời điểm đó. Ông nhận thấy một khó khăn là hệ thống thường cố gắng trình bày lại nghiên cứu đã có như thể là phát hiện mới, nên ông thu hẹp phạm vi thử nghiệm vào lĩnh vực chuyên môn web security của mình để tiện kiểm chứng.

Trong quá trình thí nghiệm theo phương pháp do ông tổng hợp, Kettle phát hiện một khu vực lỗ hổng hoàn toàn mới, gọi là Shared-Parser Confusion, xuất phát từ việc máy chủ web dùng chung mã để xử lý cả yêu cầu và phản hồi. Ông mô tả điều này là một bề mặt tấn công lớn vì yêu cầu gửi đến web không đáng tin nhưng phản hồi thường được tin cậy.

Kettle nói phát hiện này có thể ảnh hưởng tới nhiều dạng tấn công khác nhau. Ông nhấn mạnh mục tiêu của mình là thử đẩy AI đến giới hạn để thấy khi nào cần con người, vì hiện có rất ít người thảo luận về giới hạn trong an ninh do các động cơ khác nhau.