Anthropic tuyên bố đang tiến gần đến khả năng tự cải tiến đệ quy

Theo bản sửa đổi mới nhất của hồ sơ S-1/A công bố vào ngày thứ Hai, Anthropic tuyên bố đang tiến gần đến trạng thái tương tự như khả năng tự cải tiến đệ quy (RSI). Cảnh báo mới trong mục “Các yếu tố rủi ro” (Risk Factors) của tài liệu là một cập nhật tinh tế nhưng đáng chú ý, được chuyên trang TechCrunch phát hiện. RSI, nếu trở thành hiện thực, sẽ là thời điểm một hệ thống máy tính có thể tự cải thiện năng lực một cách độc lập; sau đó, phiên bản nâng cấp này lại tiếp tục tự cải tiến theo chu kỳ liên tục. Một phiên bản của khái niệm này từng là nội dung trọng tâm trong một nghiên cứu về “điểm kỳ dị” (singularity) vào năm 2016, dù thuật ngữ chuyên môn đã thay đổi theo thời gian. Khái niệm RSI khi gắn với AI hiện đại vẫn còn tương đối mơ hồ, dù một số chi tiết cụ thể đã được thảo luận trong vài năm qua trên các diễn đàn trực tuyến của chủ nghĩa duy lý và chủ nghĩa vị tha hiệu quả như Lesswrong. Thuật ngữ này dường như phát triển từ một khái niệm trước đó là “AI hạt giống” (seed AI), do học giả cảnh báo nguy cơ AI Eliezer Yudkowsky khởi xướng. Do đó, Anthropic đang công bố với các nhà đầu tư thận trọng với rủi ro—hoặc có thể là thông báo với công chúng—rằng RSI có thể sẽ xuất hiện “trong tương lai gần”. Phiên bản hồ sơ ngày 26/10 của Anthropic có một phần đề cập đến tốc độ “tăng tốc do AI thúc đẩy”, trong đó công ty bổ sung nội dung khẳng định như sau: “[…] các ước tính nội bộ và kỳ vọng của chúng tôi đối với các mô hình tương lai, thay vì các mô hình hiện tại, cho thấy chúng tôi có thể sắp đạt được định nghĩa trong Chính sách Mở rộng Quy mô Có trách nhiệm về việc 'tiến độ được đẩy nhanh đáng kể nhờ AI'.” Tuyên bố này cho thấy Anthropic đang trực tiếp đề cập đến một dạng thức của RSI. Tài liệu nêu rõ điều này khi mô tả AI tự thúc đẩy quá trình tiến hóa của chính nó là “một trong những lĩnh vực thuộc phạm vi điều chỉnh của Chính sách Mở rộng Quy mô Có trách nhiệm; chính sách này vạch ra các kế hoạch giám sát và giảm thiểu rủi ro khi chúng tôi tiến gần đến trạng thái được gọi là 'tự cải tiến đệ quy'.” Anthropic dường như ưu tiên sử dụng cụm từ “tiến độ được đẩy nhanh đáng kể nhờ AI”. Trên thực tế, thuật ngữ này đi kèm với một ngưỡng thành công rõ ràng hơn theo Chính sách Mở rộng Quy mô Có trách nhiệm của công ty: tăng gấp đôi tốc độ cải thiện cơ sở, với việc mức tăng đó có thể quy kết một cách hợp lý cho AI. Theo nội dung Chính sách Mở rộng Quy mô Có trách nhiệm, Anthropic khẳng định rằng nếu sự tiến bộ vượt bậc do AI thúc đẩy xuất hiện, công ty sẽ tự áp dụng các tiêu chuẩn rất cao nhằm ngăn ngừa các thảm họa liên quan đến AI. Bản tin AI (The AI Brief) Bản tin tóm tắt hằng ngày về các tin tức AI cần thiết để bắt đầu ngày mới. Được biên soạn bởi con người. Được các hệ thống tự động đánh giá cao. Đăng ký ngay Anthropic cho biết công ty sẽ, chẳng hạn, “khám phá các phương thức đầy tham vọng và có thể khác thường nhằm đạt được các mức độ an toàn chưa từng có”, đồng thời thiết lập cơ chế giám sát toàn diện đối với các hoạt động nội bộ, một trạng thái được gọi là “giám sát toàn diện” (eyes on everything). Chính sách này cũng tuyên bố Anthropic sẽ nâng cao năng lực thử nghiệm tấn công giả lập (red-team) đến mức không còn phải phụ thuộc vào các chương trình săn lỗi nhận thưởng (bug bounty). Nếu viễn cảnh này thực sự diễn ra “trong tương lai gần”, Anthropic sẽ cần phải nhanh chóng triển khai các biện pháp giảm thiểu rủi ro đầy tham vọng kể trên.