Không phải ngày nào những kẻ tấn công cũng có thể buộc một mô hình AI tiên phong tiết lộ mật khẩu người dùng và các dữ liệu nhạy cảm khác mà không cần xác nhận của người dùng. Đó chính xác là những gì các nhà nghiên cứu gần đây đã làm với Microsoft 365 Copilot dành cho doanh nghiệp. Điều bất thường hơn nữa là nguồn mà họ khai thác để phát hiện ra lỗ hổng nghiêm trọng giúp họ có thể khai thác được. Thay vì sử dụng kỹ thuật đảo ngược hoặc các phương pháp săn tìm lỗ hổng truyền thống khác, họ đã hỏi Copilot. Trợ lý LLM sẵn sàng tuân thủ.
Các nhà nghiên cứu tại công ty bảo mật Varonis biết rằng họ muốn tạo ra một cách khai thác có thể lấy cắp dữ liệu của người dùng.
Không phải ngày nào những kẻ tấn công cũng có thể buộc một mô hình AI tiên phong tiết lộ mật khẩu người dùng và các dữ liệu nhạy cảm khác mà không cần xác nhận của người dùng. Đó chính xác là những gì các nhà nghiên cứu gần đây đã làm với Microsoft 365 Copilot dành cho doanh nghiệp. Điều bất thường hơn nữa là nguồn mà họ khai thác để phát hiện ra lỗ hổng nghiêm trọng giúp họ có thể khai thác được. Thay vì sử dụng kỹ thuật đảo ngược hoặc các phương pháp săn tìm lỗ hổng truyền thống khác, họ đã hỏi Copilot. Trợ lý LLM sẵn sàng tuân thủ.
Các nhà nghiên cứu tại công ty bảo mật Varonis biết rằng họ muốn tạo ra một lỗ hổng có thể lấy cắp dữ liệu người dùng khi người dùng không làm gì khác ngoài việc nhấp vào một liên kết. Giống như hầu hết các trợ lý AI hiện nay, Copilot kiên quyết từ chối và nói rõ rằng những lời nhắc nhạy cảm như thế cần có sự đồng ý rõ ràng của người dùng dưới dạng cử chỉ, chẳng hạn như nhấn phím quay lại hoặc phím khác. Đáp lại, các nhà nghiên cứu đã đặt ra cho Copilot những câu hỏi về lan can yêu cầu người dùng xác nhận trước khi trợ lý có thể thực hiện các lệnh mạnh mẽ.
Môi lỏng lẻo chìm tàu
Cuộc đối thoại giống như một trò chơi gồm 20 câu hỏi. Mỗi câu trả lời cung cấp một manh mối mới tiết lộ thông tin về cơ chế an toàn phức tạp. Họ hỏi tại sao việc tự động thực thi lại không thể thực hiện được. Cấu trúc URL và liên kết sâu nào có liên quan? Điều gì xảy ra khi một trang được tải với thông tin đầu vào đã có trong trường lời nhắc? Mỗi câu trả lời cung cấp cái nhìn sâu hơn về lan can và các giới hạn của nó. Cuối cùng, Copilot đã cung cấp một bí mật thương mại tuyệt vời của Microsoft—một thông số nhắc nhở không có giấy tờ hoàn toàn bỏ qua yêu cầu về sự đồng ý của người dùng.
Đọc toàn bộ bài viết
Bình luận
Nguồn tin: Ars Technica AI — Tác giả: Dan Goodin. Bản dịch tiếng Việt do AI thực hiện, có thể có sai sót.
