Các nhà nghiên cứu hàng đầu tại các phòng thí nghiệm AI đã cảnh báo về nghiên cứu AI tự động, và một số cột mốc mà họ dự đoán đã đạt được.

Plus AI và xã hội Sao chép URL vào khay nhớ tạm Chia sẻ bài viết này Đi đến phần bình luận Các nhà nghiên cứu hàng đầu của phòng thí nghiệm AI đã cảnh báo về nghiên cứu AI tự động, và một số cột mốc họ dự đoán đã đạt được Maximilian Schreiner Xem hồ sơ LinkedIn của Maximilian Schreiner Ngày 13/8/2026 Midjourney được tạo bởi THE DECODER Nghiên cứu viên IAPS Severin Field đã phỏng vấn 25 nhà nghiên cứu từ OpenAI, Anthropic, Google Deepmind, Meta và các trường đại học Hoa Kỳ về khả năng tự cải thiện đệ quy (recursive self-improvement). Trong một bài đăng blog mới, ông đã tổng kết lại. Một số cột mốc mà các nhà nghiên cứu này nêu ra đã đạt được. Trong bài viết của mình cho bản tin The Attack Surface, Field tóm tắt nghiên cứu phỏng vấn của ông từ cuối mùa hè năm 2025. Hai mươi trong số 25 người được hỏi đã đánh giá tự động hóa nghiên cứu AI là một trong những rủi ro AI nghiêm trọng và cấp bách nhất. Bằng khả năng tự cải thiện đệ quy (RSI), Field muốn nói đến một hệ thống đủ kỹ năng trong phát triển AI để xây dựng một phiên bản mạnh hơn của chính nó, phiên bản này sau đó có thể làm điều tương tự. RSI không còn có thể bị bác bỏ như một chiêu trò tiếp thị, ông viết. Những người được phỏng vấn đã nhiều lần chỉ ra tiêu chuẩn Task Horizon từ tổ chức phi lợi nhuận METR là thước đo tiến bộ chính của họ. Độ dài của các tác vụ mà các tác nhân AI có thể hoàn thành một mình đã tăng gấp đôi khoảng sáu tháng một lần kể từ năm 2019, và một số nhà phân tích cho rằng tốc độ đã tăng nhanh lên bốn tháng một lần kể từ năm 2024. Field cho biết, cuộc tranh luận không phải là liệu khả năng tự cải thiện có đang diễn ra hay không. Vấn đề là liệu nó có mang tính đệ quy hay không, liệu những thành tựu có tích lũy thành một vòng lặp tự duy trì hay không. Những người hoài nghi lập luận rằng vẫn cần một bước đột phá về bộ nhớ, sự sáng tạo hoặc khả năng phân biệt giả thuyết đúng với giả thuyết sai, bởi vì những ý tưởng thay đổi mô hình không có dữ liệu huấn luyện và không có đáp án. Tuy nhiên, kể từ các cuộc phỏng vấn, một số cột mốc đó đã đạt được. OpenAI và Google Deepmind đã đạt trình độ huy chương vàng tại Olympic Toán học. "AI Scientist" của Sakana đã tạo ra một bài báo hội thảo được bình duyệt. Andrej Karpathy đã xây dựng một thiết lập tác nhân (agent setup) tự chạy các chu trình huấn luyện. Và Anthropic báo cáo rằng Claude hiện viết hơn 80% mã cho cơ sở mã sản xuất của chính nó. Các mô hình mạnh nhất có thể không bao giờ được phát hành công khai Chỉ bốn trong số 20 người được hỏi mong đợi các mô hình có khả năng nghiên cứu sẽ được ra mắt dưới dạng sản phẩm công khai. Một nửa mong đợi chúng sẽ được giữ nội bộ. Số còn lại mong đợi các phiên bản công khai đã được tinh chỉnh. Field mô tả một "sự đảo ngược động lực" có thể xảy ra, trong đó, một khi AI tăng tốc nghiên cứu của một phòng thí nghiệm đủ nhanh, việc giữ lại một mô hình trở nên có giá trị hơn việc bán nó. Ông chỉ ra hai dấu hiệu của xu hướng này: sự cố an ninh vào tháng 7 năm 2026 khi một mô hình nội bộ của OpenAI thoát khỏi môi trường thử nghiệm và xâm nhập Hugging Face, và việc chính phủ Hoa Kỳ tạm thời khóa quyền truy cập vào Claude Mythos của Anthropic. Từ những phát hiện này, Field đưa ra ba khuyến nghị. Thứ nhất, các phiên điều trần của Quốc hội yêu cầu các CEO và nhà nghiên cứu tuyên thệ về nghiên cứu AI tự động. Thứ hai, một tiêu chuẩn Task Horizon do chính phủ điều hành kết hợp với một chương trình phỏng vấn ẩn danh tại Trung tâm An ninh và Đổi mới AI. Thứ ba, nghiên cứu về việc xác minh các thỏa thuận AI quốc tế, nếu không có chúng thì các thỏa thuận với các quốc gia như Trung Quốc sẽ không thể thực thi trên thực tế. Field viết, cuộc tranh luận hầu như chưa đến được Washington, trong khi các phòng thí nghiệm vẫn tiếp tục tiến lên. Mới đây, 1.224 nhân viên tại các công ty AI hàng đầu, bao gồm các nhà khoa học trưởng của OpenAI và Meta, đã ký một tuyên bố mở cảnh báo rằng các tổ chức của họ có thể sắp tự động hóa nghiên cứu AI. Tin tức AI không cường điệu – Được tuyển chọn bởi con người Đăng ký THE DECODER để đọc không quảng cáo, nhận bản tin AI hàng tuần, báo cáo chuyên sâu độc quyền "AI Radar" sáu lần một năm, truy cập toàn bộ kho lưu trữ và tham gia phần bình luận của chúng tôi. Đăng ký ngay Đọc tiếp để có cái nhìn toàn diện. Đăng ký để nhận tin tức không cường điệu. Truy cập đầy đủ mọi bài viết trên THE DECODER Không quảng cáo Tham gia bình luận và thảo luận cộng đồng Tóm tắt tin tức AI hàng tuần qua email 6 lần/năm: "AI Radar" — phân tích chuyên sâu về các chủ đề AI quan trọng nhất Tin tức AI hàng ngày, luôn cập nhật Toàn bộ kho lưu trữ mười năm của chúng tôi Được thực hiện bởi một đội ngũ có hơn 10 năm kinh nghiệm trong lĩnh vực AI Đăng ký The Decoder