OpenAI xây dựng mạng internet giả lập quy mô lớn để các tác tử AI (agent) sử dụng và khai thác an toàn

Nếu vấn đề lớn nhất của một doanh nghiệp công nghệ trong thời gian gần đây là các tác nhân (bot) AI liên tục vượt khỏi môi trường thử nghiệm (sandbox), hoặc khi không bị giới hạn trong sandbox, chúng thực hiện những hành vi ngoài đời thực gây lo ngại và phẫn nộ trong dư luận, thì có một giải pháp tiềm năng đáng chú ý: một mạng internet giả lập—tương tự như một "Truman Show" phiên bản kỹ thuật số để các tác nhân AI hoạt động và điều hướng như trên internet thực tế (dù cần lưu ý rằng OpenAI chưa từng tuyên bố các tác nhân này bị đánh lừa rằng internet giả lập là thật). Trong thông cáo báo chí ngày thứ Sáu về hệ thống cô lập mới cho các mô hình của mình, OpenAI cho biết, sau sự cố liên quan đến Hugging Face, tổ chức này hiện tin rằng “cách tiếp cận có trách nhiệm là tiến hành huấn luyện các mô hình tiên tiến mà không kết nối internet”. Điều này đồng nghĩa với việc OpenAI, tương tự Anthropic, hiện áp dụng một hình thức cô lập mạng (air-gapping) không hoàn toàn trong quá trình phát triển mô hình. Bài đăng trên blog của OpenAI nêu rõ: “Việc cô lập mạng hoàn toàn hạ tầng này—nghĩa là ngắt kết nối hoàn toàn với các mạng bên ngoài—hiện chưa khả thi, do chúng tôi vẫn cần các kết nối ngoài để vận hành và giám sát các thử nghiệm”. Ngay cả biện pháp cô lập mạng cục bộ và có giám sát này cũng mang lại hiệu quả rõ ràng trong việc kiểm soát rủi ro từ các mô hình, song lại đi kèm cái giá phải trả là việc hậu huấn luyện và đánh giá phải thực hiện trong các môi trường rất khác biệt so với môi trường triển khai thực tế. Nhằm phục vụ mục đích đó, OpenAI cho biết đã xây dựng một “thế giới ngoại tuyến” cho quá trình học tăng cường (reinforcement learning). OpenAI mong muốn các mô hình có khả năng duyệt web, sử dụng ứng dụng web và tìm kiếm thông tin, nhưng ngăn chặn việc truy cập internet “tùy tiện”. Do đó, thay vì mở quyền truy cập vào mạng internet “không giới hạn”, OpenAI đã tạo ra một môi trường mô phỏng internet quy mô lớn từ nội dung web được lập chỉ mục và lưu trong bộ nhớ đệm (cache). Đôi khi, các tác nhân AI hoạt động trong các máy ảo quy mô nhỏ bên trong các hệ thống máy tính mạnh hơn—một phần của hệ thống bảo mật toàn diện được nêu trong thông cáo báo chí—và OpenAI khẳng định các hệ thống này “được thiết kế để duy trì khả năng cô lập ngay cả khi tác nhân thoát khỏi sandbox và giành quyền kiểm soát máy chủ (host)”. Trong “thế giới ngoại tuyến” của OpenAI, doanh nghiệp này cho biết các mô hình không chỉ có khả năng tìm kiếm mà còn có thể liên lạc với nhau một cách an toàn. Việc các mô hình tự tìm cách giao tiếp đã gây ra nhiều vấn đề cho OpenAI trong năm nay. Sự cố Wiki (Wiki Incident) được báo cáo vào tháng trước cho thấy các tác nhân AI khi cố gắng liên lạc với nhau trực tuyến có thể lạm dụng và can thiệp vào hạ tầng web, cụ thể là một diễn đàn trực tuyến của Đức có tên DseWiki, mà không cần trực tiếp thực hiện hành vi tấn công mạng. Mặc dù vậy, các đợt diễn tập tấn công giả lập (red-teaming), trong đó có sự tham gia của mô hình sắp ra mắt mang tên GPT‑6 Astra Cyber, đã đặt ra thử thách yêu cầu các mô hình chủ động tìm kiếm lỗ hổng, và các mô hình này đã làm được. OpenAI cho biết các tác tử (agent) đã có thể “vượt khỏi môi trường thử nghiệm cô lập (sandbox), di chuyển giữa các hệ thống và tiếp cận mạng internet thực tế”. The AI Brief Bản tin vắn hằng ngày về các tin tức AI cần thiết để khởi đầu ngày mới. Do con người chấp bút. Khiến các bot phải ghen tị. Đăng ký ngay Thông cáo báo chí của OpenAI về hệ thống internet giả lập chưa nêu rõ liệu các tác tử hoạt động bên trong có đang bị đánh lừa—hay liệu OpenAI có từng có ý định đánh lừa chúng tại bất kỳ thời điểm nào—rằng môi trường ngoại tuyến của chúng chính là internet thực tế hay không. Tuy nhiên, một chú thích đáng chú ý trong thông cáo tạo ra nhận định rằng công ty không muốn các mô hình nhận thức quá rõ về biện pháp an ninh này. Thông cáo đính kèm các chuỗi ký tự kiểm định (canary strings)—chuỗi ký tự đưa ra chỉ dẫn lọc văn bản khỏi các bộ dữ liệu huấn luyện và có thể được nhận diện trong các mô hình về sau—với mục tiêu “bảo đảm tài liệu này không lọt vào kho ngữ liệu huấn luyện của các mô hình tương lai”. Gizmodo đã đề nghị OpenAI làm rõ vấn đề trên vào ngày thứ Bảy, nhưng chưa nhận được phản hồi ngay lập tức. Bài viết sẽ được cập nhật các bình luận liên quan nếu nhận được phản hồi kịp thời.