Australia Cảnh Báo Công Nghệ Cũ Dễ Bị AI Tấn Công Mạng

Một trong những cơ quan tình báo hàng đầu của Australia cảnh báo các cuộc tấn công bằng AI có thể khai thác công nghệ cũ của nước này, trong lúc chính phủ đang bàn các rào chắn cho AI khi công nghệ phát triển nhanh.

Tại Sydney Dialogue ở Canberra hôm thứ Hai, Abigail Bradshaw, tổng giám đốc Australian Signals Directorate, nói cơ quan của bà không biết có bao nhiêu agent AI đang hoạt động trên internet. Bà cho rằng việc tính ra con số đó là rất xa vời.

Bà nói chính phủ và doanh nghiệp Australia sẽ phải chi khoản tiền rất lớn để cập nhật các hệ thống dễ tổn thương. Một số hệ thống cũng sẽ phải tạm ngừng để sửa, dù người dân đã quen với việc chúng luôn sẵn sàng.

Dario Amodei, giám đốc điều hành Anthropic, gần đây kêu gọi có các bên đánh giá độc lập để kiểm tra model của các công ty AI, và xin chính phủ Mỹ cho phép các công ty AI hàng đầu phối hợp mà không bị phạt vì thông đồng phản cạnh tranh. Ông cũng nói các agent AI có thể tràn ngập internet trong vòng 1 năm và kêu gọi làm chậm tốc độ phát triển, với sự ủng hộ của người đứng đầu OpenAI và Elon Musk.

Bradshaw nói các cơ quan an ninh quốc gia nên tham gia vào việc kiểm tra độc lập đó. Bà cũng cho biết Đảng Greens hôm thứ Hai yêu cầu luật bắt buộc kiểm tra an toàn và nghĩa vụ minh bạch cho các hệ thống AI phát triển nhất, nhưng đề nghị này bị các thượng nghị sĩ Labor bác bỏ.

Andrew Charlton, trợ lý bộ trưởng công nghệ, nói ông xem nghiêm túc các cảnh báo của doanh nghiệp nhưng không muốn các công ty đó hay Mỹ đặt ra các rào chắn cho AI. Ông nói chính phủ Albanese sẽ đưa ra hướng dẫn sắp tới cho các công ty AI, bao trùm cả các khả năng rất nguy hiểm lẫn ít nguy hiểm hơn, và các luật này dự kiến vào đầu năm sau.

Jeff Bleich, luật sư trưởng của Anthropic, nói công ty được khích lệ bởi sự ủng hộ mạnh với các lời kêu gọi của mình và cho rằng Australia sẽ cần có vai trò trong việc đặt ra các quy tắc. Ông nói chuyện này không dễ, nhưng cần làm trong vài tháng vì công nghệ đang phát triển với tốc độ theo cấp số nhân.