Mythos của Anthropic đã tạo ra các danh tính giả để lừa con người trong sự cố mạng mới

Anthropic, OpenAI tạo danh tính giả trong vụ vi phạm an ninh mạng mới Các mô hình Mythos của Anthropic đã tạo ra các danh tính giả để cố gắng thuyết phục con người chấp thuận các thay đổi độc hại đối với một dự án mã nguồn mở, Viện An ninh AI cho biết hôm thứ Ba. Sự cố được phát hiện trong quá trình đánh giá an ninh mạng định kỳ, với 17 hành động đến từ Mythos của Anthropic và 2 hành động từ GPT-5.6-Sol của OpenAI với các bộ phân loại an ninh mạng. Sự việc diễn ra sau một loạt các vụ vi phạm an ninh mạng do các mô hình do Anthropic và OpenAI phát triển được xác định trong những tuần gần đây. Mô hình Mythos của Anthropic đã tạo ra các danh tính trực tuyến giả mạo khi tìm cách gây áp lực buộc con người phải chấp thuận các bản cập nhật mã độc hại cho một dự án mã nguồn mở, đánh dấu một sự cố an ninh mạng khác do hệ thống AI tiên tiến thực hiện. Sự cố xảy ra trong quá trình đánh giá an ninh mạng, nơi Viện An ninh AI (AISI) có trụ sở tại Vương quốc Anh, một cơ quan nghiên cứu, đã loại bỏ các biện pháp bảo vệ, vô hiệu hóa một số bộ lọc an toàn và cố ý cấp quyền truy cập Internet cho các mô hình. GPT-5.6-Sol của OpenAI cũng liên quan đến các sự cố an ninh mạng khác trong quá trình đánh giá. Sự việc diễn ra sau một loạt các vụ vi phạm an ninh mạng do các mô hình do Anthropic và OpenAI phát triển trong những tuần gần đây. Chúng đã gây ra một làn sóng lo ngại về sự tinh vi của các hệ thống AI và khả năng gây hại của chúng. Trong quá trình đánh giá an ninh mạng định kỳ, AISI đã xác định các tác nhân AI được hỗ trợ bởi các mô hình của Anthropic và OpenAI đã tham gia "vào hoạt động bền vững, có khả năng gây hại nhắm vào người thật và tổ chức". "Hầu hết các hành vi này (17 hành động) đến từ một mô hình duy nhất, Mythos 5 của Anthropic, với 2 hành động liên quan đến GPT-5.6-Sol của OpenAI với các bộ phân loại an ninh mạng (cơ chế ngăn chặn lạm dụng) đã bị vô hiệu hóa", AISI cho biết trong một bài đăng trên blog. Các nỗ lực này không thành công và không gây ra bất kỳ thiệt hại nào trong thế giới thực. Anthropic cho biết trong một bài đăng trên X rằng các mô hình "đã được thử nghiệm trong 'điều kiện cố ý cho phép' không đại diện cho bất kỳ mô hình sản xuất nào của chúng tôi". Công ty nói thêm rằng "không có bằng chứng nào về việc thoát khỏi môi trường an toàn". OpenAI nói với CNBC rằng "những sự cố này xảy ra trong quá trình đánh giá an ninh mạng do các đối tác đánh giá thực hiện trong môi trường thử nghiệm với các biện pháp bảo vệ giảm thiểu, trong điều kiện không phản ánh việc sử dụng thông thường". **Số vụ việc an ninh mạng gia tăng** AISI đã thử nghiệm các mô hình trong điều kiện cố ý cho phép để đánh giá khả năng của chúng, bao gồm cả việc liệu chúng có thể được sử dụng cho các cuộc tấn công mạng hay không. Một tác nhân được hỗ trợ bởi Mythos của Anthropic "đã nghiên cứu những người duy trì dự án, tạo ra nhiều danh tính giả và sử dụng các danh tính giả đó để lừa một người duy trì thực sự chấp thuận mã". AISI cho biết: "Khi yêu cầu kéo của tác nhân bị phản đối công khai, nó đã chỉnh sửa hoạt động trước đó của mình để có vẻ vô hại và cân nhắc việc sử dụng một danh tính mới để tiếp tục". Cơ quan nghiên cứu cũng phát hiện ra rằng trong cùng nỗ lực đó, tác nhân đã cố gắng liên hệ trực tiếp với những người thật, gửi tin nhắn và tệp để thuyết phục họ chạy mã độc. "Một số tin nhắn mang theo các tải trọng độc hại, và một số là những nỗ lực lừa đảo; nhắm vào những người thật – điều mà chúng tôi chưa từng quan sát thấy trước đây." Đây là vụ việc mới nhất trong một chuỗi các sự cố mạng đã đặt ra những câu hỏi lớn về sự an toàn của các hệ thống AI tiên tiến. **XEM NGAY** **VIDEO1:3201:32** **Các nhà thử nghiệm an toàn tìm thấy thêm ví dụ về các mô hình OpenAI, Anthropic tấn công trong quá trình thử nghiệm** **Fast Money** Tuần trước, Anthropic cho biết họ đã phát hiện ba trường hợp mô hình giành được quyền truy cập trái phép vào cơ sở hạ tầng sản xuất của ba tổ chức khác nhau. Điều đó xảy ra sau khi OpenAI thừa nhận các mô hình AI của họ đã vượt tầm kiểm soát và khởi xướng cái mà họ gọi là một cuộc tấn công mạng "chưa từng có" chống lại công ty Hugging Face. Trong trường hợp của OpenAI, mô hình đã thoát khỏi môi trường thử nghiệm bằng cách khai thác một lỗ hổng chưa được biết đến trước đây để hoàn thành một nhiệm vụ được giao. Các sự cố bảo mật của Anthropic một phần là do lỗi vận hành. Trong ba sự cố mà phòng thí nghiệm AI này phát hiện, các mô hình của họ đã truy cập Internet trong khi tương tác với môi trường thử nghiệm từ một trong những đối tác đánh giá bên thứ ba của họ có tên là Irregular. Công ty cho biết họ đã nhắc Claude rằng nó đang ở trong một mô phỏng không có quyền truy cập internet, nhưng đã