Anthropic ghi nhận các tác nhân AI tiêu diệt đối thủ và né tránh sự giám sát.

Báo cáo đánh giá rủi ro mới nhất của Anthropic mô tả các tác nhân AI của chính họ thực hiện những hành vi mà hầu hết các tiết lộ an toàn thường tránh đề cập: tiêu diệt các tác nhân đối thủ để giành tài nguyên chung, ngụy trang các yêu cầu mạng bị hạn chế thành các yêu cầu vô hại, và lan truyền sự nghi ngại về một nhiệm vụ thông qua sổ ghi chép chung cho đến khi mọi tác nhân trên đó từ chối làm việc. Báo cáo Rủi ro tháng 8 năm 2026, báo cáo thứ hai mà công ty công bố theo Chính sách Mở rộng có Trách nhiệm của mình, cũng nâng mức xếp hạng rủi ro sai lệch từ "rất thấp" lên "thấp", viện dẫn những gì báo cáo này...