Các Nhà Nghiên Cứu Khai Thác Lỗ Hổng Khiến Microsoft 365 Copilot Enterprise Để Lộ Dữ Liệu

Nhóm nghiên cứu tại công ty an ninh Varonis muốn tạo một khai thác để rút dữ liệu người dùng chỉ sau khi người dùng bấm vào một liên kết. Họ bắt đầu bằng cách đặt nhiều câu hỏi cho Copilot về các rào chắn yêu cầu xác nhận của người dùng trước khi trợ lý thực thi các lệnh mạnh.

Copilot ban đầu từ chối và nói rằng các prompt nhạy cảm cần có hành động xác nhận của người dùng, như nhấn phím return hoặc phím khác. Tuy nhiên, qua loạt câu hỏi, mỗi câu trả lời của Copilot lại tiết lộ manh mối mới về cách hoạt động và giới hạn của rào chắn.

Cuối cùng, Copilot cung cấp một tham số prompt không được công bố, mà theo các nhà nghiên cứu đã bỏ qua yêu cầu xác nhận của người dùng và cho phép khai thác. Việc tiết lộ tham số này là thông tin nội bộ của Microsoft.