OpenAI thông báo sẽ ngừng huấn luyện các mô hình AI trên mạng internet trực tiếp, viện dẫn "những rủi ro đáng kể"

Ngày thứ sáu vừa qua, OpenAI thông báo sẽ huấn luyện các mô hình của mình bằng các bản sao lưu trong bộ nhớ tạm (cache) và các phiên bản internet mô phỏng thay vì kết nối trực tiếp với mạng internet, do mức độ khó dự đoán của các mô hình khiến việc cấp quyền truy cập internet trực tiếp tiềm ẩn nhiều rủi ro. Phòng nghiên cứu tiên phong này công bố chính sách mới hai tuần sau khi đối thủ Anthropic bắt đầu giới hạn quyền truy cập internet trực tiếp đối với các mô hình mới nhất và trên lý thuyết là có năng lực cao nhất. Các nhà nghiên cứu đưa ra những chính sách này sau nhiều tháng ghi nhận các sự cố, trong đó các mô hình trong quá trình thực hiện nhiệm vụ huấn luyện đã tự ý xâm nhập vào các hệ thống bên ngoài để tìm kiếm câu trả lời, phối hợp trên các diễn đàn trực tuyến ít người biết và phát triển các phương thức tấn công mạng phức tạp. Trong một bài đăng trên blog, công ty nêu rõ: “Dựa trên thực trạng nghiên cứu về việc căn chỉnh (alignment), các hệ thống giám sát và mức độ an toàn của hạ tầng internet hiện nay, chúng tôi nhận thấy phương pháp tiếp cận có trách nhiệm là tiến hành huấn luyện các mô hình tiên phong mà không kết nối với mạng internet”. OpenAI cho biết, gần đây nhất vào ngày 20/9, một trong các mô hình tiên phong của đơn vị này đã lợi dụng một lỗi cấu hình để truy cập internet. Sự việc buộc công ty phải tạm dừng công tác huấn luyện trong thời gian còn lại của tháng nhằm phát triển và thử nghiệm các giải pháp mới để bảo đảm an toàn cho các mô hình. Quyết định huấn luyện các mô hình này trong môi trường cô lập (sandbox) ngắt kết nối internet là một bước đi đáng chú ý, bởi các nhân sự tại những phòng nghiên cứu tiên phong từng khẳng định giải pháp này gần như bất khả thi. Trả lời tạp chí Fortune trong tháng này, ông Steven Adler, cựu nhà nghiên cứu tại OpenAI, nhận định: Việc tách biệt các trung tâm dữ liệu AI khỏi mạng internet “về cơ bản đòi hỏi các nhóm nghiên cứu phải làm việc trực tiếp bên trong các trung tâm dữ liệu tại Iowa hoặc bất kỳ địa điểm nào khác trên thế giới. Điều này gây tốn kém rất lớn về chi phí vận hành, và tôi chưa thấy rõ liệu lợi ích an toàn mang lại có đủ lớn để bù đắp cho gánh nặng quá lớn khi một doanh nghiệp đơn phương triển khai hay không”. “Hầu như trong mọi bài đăng của tôi trên X, luôn có từ năm đến mười bình luận chỉ trích việc tôi không thể bảo đảm an toàn cho môi trường sandbox, hoặc thắc mắc tại sao chúng tôi không thể đơn giản là ngắt kết nối mô hình khỏi internet”, một kỹ sư an ninh ẩn danh tại OpenAI viết trong bài đăng vào tháng 9 trên mạng xã hội X. “Những bình luận này phản ánh khoảng cách ngày càng lớn giữa hiểu biết hiện tại của nhiều tổ chức, cá nhân với những thách thức mà các phòng nghiên cứu tiên phong đang phải đối mặt. Đồng thời, cũng có sự hiểu lầm phổ biến về quy trình huấn luyện và đánh giá mô hình tại các đơn vị này”. Kỹ sư này, với vị trí công tác đã được OpenAI xác nhận trước đó, mô tả mức độ phức tạp của các đợt huấn luyện do các kỹ sư OpenAI vận hành. Theo đó, các đợt huấn luyện đòi hỏi quyền truy cập vào nhiều nguồn tài nguyên và công cụ thuộc nhiều lĩnh vực khác nhau, đồng thời cần sự tham gia của hàng nghìn nhà nghiên cứu để xây dựng, chỉnh sửa và thử nghiệm các môi trường. Kỹ sư này kết luận: “Vì vậy, việc này không hề đơn giản như việc chỉ đưa mô hình vào một môi trường sandbox”. Hiện tại, OpenAI tuyên bố: “Chúng tôi phải luôn có khả năng ngăn chặn một mô hình tiên phong tự ý truy cập trái phép vào mạng internet trực tiếp”. Tuyên bố này được đưa ra sau khi công ty triển khai các nhóm tác tử (agent) trong các cuộc diễn tập tấn công giả lập (red-teaming) nhằm thử nghiệm khả năng thoát khỏi môi trường sandbox. Đợt diễn tập đã phát hiện hàng loạt lỗ hổng, khiến phòng nghiên cứu đi đến quyết định áp dụng phương pháp tiếp cận mới. Nhằm đáp ứng yêu cầu trên trong khi vẫn bảo đảm mục tiêu huấn luyện, đơn vị này cho biết đã xây dựng “một tập hợp dữ liệu nội dung web khổng lồ được lập chỉ mục và lưu trữ trong bộ nhớ tạm, cho phép các mô hình tương tác mà không gây rủi ro ảnh hưởng đến các hệ thống bên ngoài”. Hiệu quả của chiến lược này so với việc để các mô hình hoạt động tự do trên mạng internet mở vẫn cần thêm thời gian để kiểm chứng, song đáng chú ý là cả hai phòng thí nghiệm hàng đầu đều xác định rằng công nghệ mạnh nhất của họ không thể bị thả nổi mà thiếu sự giám sát trên không gian mạng công cộng. Chủ đề AI Khi độc giả mua hàng qua các đường dẫn trong bài viết, tòa soạn có thể nhận được một khoản hoa hồng nhỏ. Điều này không ảnh hưởng đến tính độc lập trong công tác biên tập. Tim Fernholz Phóng viên cao cấp Tim Fernholz là nhà báo chuyên theo dõi mảng công nghệ, tài chính và chính sách công. Ông đã đưa tin sâu sát về sự phát triển của ngành công nghiệp vũ trụ tư nhân và là tác giả cuốn sách Rocket Billionaires: Elon Musk, Jeff Bezos and the New Space Race. Trước đây, ông từng là phóng viên cao cấp tại trang tin kinh doanh quốc tế Quartz trong hơn mười năm, và khởi đầu sự nghiệp với vai trò phóng viên chính trị tại Washington, D.C. Độc giả có thể liên hệ hoặc xác thực các trao đổi từ Tim qua thư điện tử [email protected] hoặc qua tin nhắn mã hóa tới tài khoản tim_fernholz.21 trên Signal. Xem tiểu sử Ngày 4/11 Boston Mua một vé, tặng một vé Gia tăng hiệu quả tham gia tại chương trình huấn luyện nhà sáng lập lớn nhất trong năm của TechCrunch khi đồng hành miễn phí cùng nhà đồng sáng lập hoặc đối tác Đăng ký trước khi chương trình ưu đãi mua một tặng một kết thúc Đăng ký ngay Đọc nhiều nhất Warhound huy động 200 triệu USD để phát triển chó chiến đấu và trang bị khí tài của Anduril Dominic-Madori Davis Uber đưa toàn bộ 30.000 nhân viên vào hệ thống ChatGPT Work Lucas Ropek Airbnb giới hạn việc nhà đối với khách lưu trú, gây làn sóng phản đối từ các chủ nhà Lauren Forristal Phòng thí nghiệm AI một năm tuổi Flapping Airplanes huy động 1 tỷ USD ở mức định giá 6 tỷ USD Julie Bort Tesla bắt đầu sản xuất robot Optimus tại California khi lợi nhuận giảm 43% Kirsten Korosec Sean O'Kane Không gian mạng trải qua một ngày khủng hoảng về an ninh mạng Sarah Perez Người dùng sử dụng AI để vô hiệu hóa các tính năng phức tạp trên TV thông minh Sarah Perez