OpenAI đã phanh gấp. Bây giờ thì sao?

AIĐóngAI Các bài đăng từ chủ đề này sẽ được thêm vào thông báo email hàng ngày và nguồn cấp dữ liệu trang chủ của bạn. Theo dõiTheo dõiXem tất cả AI Báo cáoĐóngBáo cáo Các bài đăng từ chủ đề này sẽ được thêm vào thông báo email hàng ngày và nguồn cấp dữ liệu trang chủ của bạn. Theo dõiTheo dõiXem tất cả Công nghệĐóngTech Các bài đăng từ chủ đề này sẽ được thêm vào thông báo email hàng ngày và nguồn cấp dữ liệu trang chủ của bạn. Theo dõiTheo dõiXem tất cả OpenAI đã phanh gấp. Bây giờ thì sao? Sự an toàn của AI vẫn phụ thuộc phần lớn vào chính ngành kiểm soát an ninh. Sự an toàn của AI vẫn phụ thuộc phần lớn vào chính ngành kiểm soát an ninh. bởi Robert HartĐóng Robert Hart Phóng viên AI Các bài đăng của tác giả này sẽ được thêm vào thông báo email hàng ngày và nguồn cấp dữ liệu trang chủ của bạn. Theo dõiTheo dõiXem tất cả của Robert Hart 5:10 chiều ngày 19 tháng 8 năm 2026 theo giờ UTC liên kết Chia sẻ Quà tặng Hình ảnh: The Verge Robert HartĐóng Robert Hart Các bài đăng của tác giả này sẽ được thêm vào thông báo email hàng ngày và nguồn cấp dữ liệu trang chủ của bạn. Theo dõiTheo dõiXem tất cả của Robert Hart là một phóng viên có trụ sở tại London tại The Verge, phụ trách mọi vấn đề về AI và là thành viên cấp cao của Tarbell. Trước đây, ông viết về sức khỏe, khoa học và công nghệ cho Forbes. Với đợt IPO sắp diễn ra, sự cạnh tranh khốc liệt từ Anthropic, cũng như các đối thủ Trung Quốc và công ty mở đang bám sát gót, OpenAI có rất nhiều lý do để tiến nhanh. Thay vào đó, nó nhấn phanh. Hôm thứ Ba, công ty cho biết họ đã làm chậm tốc độ phát triển một số AI trong khi thắt chặt an ninh và các biện pháp bảo vệ. Điều đó bao gồm việc tạm dừng hai tuần trong quá trình đào tạo học tập tăng cường trên “các mô hình mới nhất dự định triển khai” và sự chậm trễ liên tục đối với “chạy RL biên giới lớn nhất theo kế hoạch”. Quyết định này là một thử nghiệm rất công khai về một ý tưởng mà những người ủng hộ an toàn AI đã thúc đẩy trong nhiều năm: rằng các công ty nên sẵn sàng rút lui khỏi cuộc đua AI và làm chậm mọi thứ khi các biện pháp bảo vệ của họ không theo kịp những gì họ đang xây dựng. Nhưng khi cuộc đua xung quanh họ vẫn tiếp tục, liệu việc giảm tốc độ có mang lại hiệu quả gì không? “Để việc tạm dừng được bền vững, nó phải được thực hiện trên toàn ngành.” Đối với tất cả các cuộc thảo luận về việc chậm lại, OpenAI thực sự không đứng yên. Công ty cho biết đây là sự phát triển “theo nhịp độ”, một thuật ngữ mơ hồ và không chính xác nhưng đã trở thành một phần từ vựng của ngành trong những tháng gần đây. Trong thực tế, sự chậm lại có phạm vi hẹp. Thông báo của OpenAI cho biết việc tạm dừng chỉ áp dụng cho các mô hình được triển khai trong khi nó tăng cường bảo mật và giám sát trước khi chạy loại thử nghiệm trong đó các mô hình có thể có khả năng thoát ra và tấn công các mục tiêu thực sự. Điều đó không nhất thiết có nghĩa là sẽ có sự chậm lại đáng kể trong quá trình phát triển rộng hơn của công ty. Tất nhiên, có một lý do rất chính đáng để OpenAI tập trung vào việc bảo mật các hệ thống như vậy trước khi thử nghiệm chúng. Mới tháng trước, OpenAI đã tiết lộ rằng các mô hình của họ đã thoát ra khỏi môi trường thử nghiệm được cho là an toàn và đã tấn công nền tảng nhà phát triển Hugging Face mà OpenAI không hề hay biết. Vụ việc đã thúc đẩy việc xem xét rộng rãi hơn các phương pháp thử nghiệm trong ngành và phát hiện ra các tình tiết tương tự liên quan đến nhiều mô hình hơn từ OpenAI, cũng như các mô hình từ Anthropic và Meta. OpenAI có mọi lý do để tránh lặp lại, đặc biệt với sự giám sát ngày càng tăng từ các nhà lập pháp. Nhìn từ bên ngoài, thật khó để biết OpenAI chân thành đến mức nào khi chỉ dừng lại vì mục đích an toàn, đặc biệt khi công ty và các nhân viên cấp cao đã lên tiếng rất nhiều về điều đó. Tuy nhiên, cam kết về an toàn của công ty đã bị đặt dấu hỏi trong những tháng gần đây sau một loạt sự ra đi của đội ngũ an toàn cấp cao và việc giải tán đội chuẩn bị của công ty. OpenAI đã không trả lời yêu cầu bình luận của The Verge. Có nhiều lý do chính đáng để xem xét sự chậm lại của OpenAI một cách nghiêm túc. Các chuyên gia nói chuyện với The Verge đã chỉ ra cái giá phải trả cho việc chậm lại vào thời điểm cạnh tranh khốc liệt. Mỗi sự chậm trễ đều giúp đối thủ có thêm thời gian để bắt kịp hoặc kéo dài khoảng cách dẫn trước. Marius Hobbhahn, Giám đốc điều hành và đồng sáng lập của Apollo Research, một tổ chức nghiên cứu an toàn AI cho biết: “Do cường độ của cuộc đua AI, mọi người đều có động lực để làm việc với tốc độ chóng mặt”. “Việc tự nguyện giảm tốc độ sẽ làm xấu đi vị trí của bạn trong cuộc đua, vì vậy đó không phải là điều mà phòng thí nghiệm sẽ làm nhẹ nhàng.” Alan Chan, nhà nghiên cứu tại trung tâm nghiên cứu chính sách công nghệ GovAI cho biết, quyết định này cũng phù hợp rộng rãi với học thuyết an toàn đã được công bố của OpenAI, Khung chuẩn bị của nó, cũng như các khuôn khổ an toàn của các công ty AI khác. Chan nói: “Nguyên tắc cơ bản là: Chỉ tiếp tục phát triển và/hoặc triển khai khi chúng tôi có các biện pháp giảm nhẹ cho phép thực hiện việc đó với rủi ro có thể chấp nhận được”. Là một phần của các biện pháp an toàn mới, OpenAI cho biết họ có kế hoạch xem xét và "phát triển" khuôn khổ - phần lớn trong số đó có từ năm 2023, khi nó được xuất bản lần đầu tiên - để giải quyết những tiến bộ trong các mô hình của nó. Cũng có lý do chính đáng để tin rằng các biện pháp bảo vệ mới sẽ thực sự giúp hệ thống của OpenAI an toàn hơn, ít nhất là trong ngắn hạn, mặc dù các chuyên gia cảnh báo rằng điều này khó đánh giá nếu không có thêm thông tin. Adam Gleave, đồng sáng lập và Giám đốc điều hành của tổ chức an toàn AI FAR.AI, nói với The Verge: “Đây là những bước đi tốt, nếu được thực hiện tốt, có lẽ đủ để ngăn chặn thế hệ đặc vụ hiện tại gây hại”. “Câu hỏi quan trọng là OpenAI sẽ theo kịp tốc độ như thế nào khi khả năng tăng lên.” Câu hỏi của Gleave chỉ ra một vấn đề rộng lớn hơn: Nếu các biện pháp bảo vệ kỹ thuật lại bị chùn bước thì sao? Lần này, không có gì yêu cầu OpenAI phải dừng lại và lấy hàng, đó là điều khiến việc sẵn sàng làm điều đó của nó trở nên có ý nghĩa. Nhưng điều đó cũng có nghĩa là không có gì đảm bảo OpenAI – hoặc bất kỳ công ty AI nào khác – sẽ đưa ra lựa chọn tương tự vào lần tới. “Nhịp độ mua thời gian chứ không phải sự an toàn… Một chiến lược nhịp độ hiệu quả không thể ứng biến được trong thời kỳ khủng hoảng.” Việc dựa vào các công ty để tự đưa ra quyết định đó là một hình thức quản trị bấp bênh, đặc biệt là trong một ngành mà như Hobbhahn đã lưu ý, luôn có mọi động lực để tiếp tục phát triển. Nick Moës, giám đốc điều hành của tổ chức quản trị và an toàn AI phi lợi nhuận The Future Society, đã mô tả việc tự kiểm soát là vấn đề mang tính cơ cấu trọng tâm của cách tiếp cận hiện tại đối với an toàn AI. Ông lập luận rằng nó phải như vậy