OpenAI Dùng GPT-Red Để Tấn Công Model Của Mình
OpenAI đã xây dựng GPT-Red, một LLM dùng huấn luyện tự chơi để tìm ra các cuộc tấn công vào model của chính mình. GPT-Red đạt tỷ lệ thành công 84% trong các kịch bản thử nghiệm, cao hơn nhiều so với 13% của con người. Kết quả được dùng để củng cố an toàn cho các model như GPT-5.6.
1 phút đọc