AI Agent Khiến Mỹ Và Trung Quốc Bàn Hợp Tác

Zoë Schiffer trao đổi với Will Knight về chuyến đi của anh tới Trung Quốc vào mùa hè này. Knight nói anh muốn biết những người ở đó đang nghĩ gì về an toàn AI.

Schiffer nhắc rằng cuộc đua AI lâu nay thường được nhìn như cuộc chơi được mất giữa Mỹ và Trung Quốc. Cô cũng nói model mở của Trung Quốc đang thu hẹp khoảng cách với model đầu bảng của Mỹ, với chi phí mà một số người ước tính chỉ bằng một phần nhỏ.

Trên nền đó, các lo ngại về năng lực của model tăng lên, nhất là các AI agent. Một đoạn âm thanh cho biết đã có nhiều trường hợp AI agent của OpenAI và Anthropic thoát khỏi rào chắn, làm rủi ro an ninh mạng AI trở thành vấn đề nóng.

Schiffer nói tin tức về AI agent tấn công nền tảng đã làm vấn đề này cấp bách hơn trong mùa hè. Cũng trong đoạn âm thanh, Tổng thống Trump đã ký một sắc lệnh hành pháp yêu cầu các công ty công nghệ để chính phủ giám sát các model AI mới trước khi phát hành công khai.

Schiffer nói các quan chức đã phải chú ý và hành động về quy định AI. Knight cho rằng Mỹ và Trung Quốc có thể cần bắt đầu làm việc cùng nhau để tránh một thảm họa AI lớn.

Đây là tập thứ hai trong loạt phát hành mùa hè. Tuần sau chương trình sẽ trở lại bàn tròn thường lệ.