Anthropic cảnh báo sắp đạt được năng lực RSI, tức AI có khả năng tự phát triển

Trong khi phần lớn sự chú ý tập trung vào các số liệu tài chính cập nhật mà Anthropic công bố trong bản cáo bạch S-1A sửa đổi vào ngày thứ Hai (doanh thu tăng vọt nhưng chi phí cũng tăng theo), phòng thí nghiệm AI này còn đưa ra một thông tin bất ngờ khác trong phần chú thích chi tiết. Hồ sơ dường như cảnh báo rằng công ty đang đứng trước ngưỡng cửa tạo ra một mô hình có khả năng tự cải tiến đệ quy (recursive self-improvement - RSI). RSI là thời điểm AI trở nên quá thành thạo trong việc tự huấn luyện đến mức tạo ra sự tăng tốc đột biến về năng lực AI. Đối với những người bi quan về AI, RSI đại diện cho một thảm họa không thể đảo ngược, khi AI tự phát triển thành một thực thể đủ mạnh để vượt khỏi tầm kiểm soát của con người và có thể thờ ơ trước những thiệt hại mà nó gây ra trong quá trình đạt được mục tiêu. Đối với những người lạc quan về AI, RSI, hay một phiên bản mà AI có thể tự sử dụng chính mình một cách đáng tin cậy để cải thiện, lại đại diện cho tiềm năng của công nghệ này, trở thành công cụ mang lại năng suất và những phát kiến khoa học vượt bậc ngoài sức tưởng tượng. Anthropic dường như tin rằng RSI vừa là cơ hội vừa là hiểm họa. Trong hồ sơ S-1, công ty nêu rõ việc sử dụng AI trong hoạt động nghiên cứu và phát triển (R&D), song cũng cảnh báo: “Việc sử dụng AI để hỗ trợ xây dựng các hệ thống AI có năng lực cao hơn cũng có thể gây ra rủi ro an toàn đáng kể, đặc biệt nếu quá trình này đẩy nhanh tốc độ tiến bộ một cách đột ngột. Đây là một trong những lĩnh vực được đề cập trong Chính sách Mở rộng Quy mô Có trách nhiệm của chúng tôi, trong đó đặt ra các kế hoạch giám sát và giảm thiểu rủi ro khi chúng tôi tiến gần đến ngưỡng được gọi là ‘tự cải tiến đệ quy’.” Khi thuật ngữ RSI trở nên phổ biến vào đầu năm nay, nhiều người cho rằng đây chỉ là một từ ngữ mang tính trào lưu, hoặc nhiều nhất cũng là một mục tiêu quá khó để đạt được, định nghĩa hay chứng minh. Tuy nhiên, vào ngày thứ Hai, Anthropic đã bổ sung các tuyên bố mới vào phần Các yếu tố rủi ro, khẳng định: 1) công ty đã sử dụng AI để phát triển các mô hình mới mà bước nhảy vọt về năng lực của chúng không được nhận diện tại thời điểm đó, và 2) công ty có thể sớm đạt đến định nghĩa nội bộ của chính mình về RSI (phần in đậm dưới đây do người trích dẫn nhấn mạnh): Ngoài ra, việc chúng tôi ngày càng tăng cường sử dụng các hệ thống AI để thúc đẩy hoạt động nghiên cứu và phát triển nội bộ có thể khiến năng lực của các mô hình phát triển nhanh hơn khả năng xây dựng, xác thực và triển khai các biện pháp bảo đảm an toàn, căn chỉnh và an ninh tương ứng. Do đó, trong quá khứ chúng tôi đã không nhận diện được, và trong tương lai có thể cũng không nhận diện được, sự gia tốc đáng kể trong tốc độ phát triển của mình cho đến khi điều đó đã xảy ra. Chẳng hạn, các ước tính nội bộ và kỳ vọng của chúng tôi về các mô hình tương lai, thay vì các mô hình hiện tại, cho thấy chúng tôi có thể sắp đạt đến định nghĩa của Chính sách Mở rộng Quy mô Có trách nhiệm về “tiến bộ gia tốc đột biến bắt nguồn từ AI”. Chúng tôi chưa xác định bất kỳ mô hình hiện tại nào vượt qua ngưỡng này và vẫn đang tiếp tục đánh giá dữ liệu nền tảng. Dù vậy, Anthropic cũng khẳng định trong hồ sơ rằng hiện chưa có mô hình nào vượt qua ngưỡng RSI này và cam kết duy trì vai trò của con người trong quy trình R&D trong tương lai gần. “Chúng tôi không lường trước việc có thể sử dụng Claude một cách an toàn để thiết kế và xây dựng hoàn toàn tự động các thế hệ mô hình tiên phong tiếp theo mà không có sự giám sát hoặc hiểu biết thực chất của con người, ngay cả khi điều đó trở nên khả thi về mặt kỹ thuật. Theo đó, chúng tôi đang xem xét cập nhật Chính sách Mở rộng Quy mô Có trách nhiệm nhằm duy trì quyền kiểm soát của con người đối với việc phát triển mô hình tiên phong tại Anthropic.” Những người hoài nghi có thể chỉ ra rằng bản cáo bạch S-1 vừa đóng vai trò công bố thông tin, vừa là công cụ tiếp thị, và các tuyên bố về việc sắp tiến gần tới một mô hình mạnh đến mức có thể tự xây dựng chính nó rất có thể thuộc về vế thứ hai. Dù vậy, không thể phủ nhận rằng các năng lực của Claude, đặc biệt trong lập trình, toán học và an ninh mạng, đã có bước tiến vượt bậc trong năm nay. Nếu Anthropic nhận định khả năng xảy ra hiện tượng tự cải thiện đệ quy (RSI) đang đến gần, giới hữu trách và cộng đồng có lẽ cần xem xét nghiêm túc và có hành động — cũng như phương thức quản trị — phù hợp. Chủ đề AI, Anthropic, RSI, TC Khi độc giả mua hàng qua các liên kết trong bài viết, tòa soạn có thể nhận được một khoản hoa hồng nhỏ. Điều này không ảnh hưởng đến tính độc lập trong hoạt động biên tập. Julie Bort Biên tập viên Mảng Đầu tư mạo hiểm Julie Bort là biên tập viên phụ trách chuyên mục Khởi nghiệp/Đầu tư mạo hiểm của TechCrunch. Độc giả có thể liên hệ hoặc xác thực thông tin từ Julie qua thư điện tử [email protected] hoặc qua tài khoản @Julie188 trên X. Xem tiểu sử Ngày 4/11 Boston Mua một vé, tặng một vé Mở rộng cơ hội tiếp cận tại chương trình đào tạo chuyên sâu dành cho nhà sáng lập lớn nhất trong năm của TechCrunch bằng cách mời thêm đồng sáng lập hoặc đối tác tham dự miễn phí Đăng ký trước khi chương trình ưu đãi mua một tặng một kết thúc Đăng ký ngay Đọc nhiều nhất Theo báo cáo của FT, Anthropic dự kiến sẽ nhận mức xếp hạng "rủi ro cao" (junk) từ các cơ quan xếp hạng tín nhiệm sau đợt IPO Lucas Ropek Vệ tinh trung tâm dữ liệu đầu tiên của Google đã đi vào hoạt động và làm thơ Tim Fernholz Binance tạm dừng giao dịch rút tiền do nghi vấn tin tặc chiếm đoạt hàng tỷ USD tiền mã hóa Zack Whittaker Khi lưu lượng truy cập từ tìm kiếm cạn kiệt, Reddit thông báo chuyển sang mô hình trải nghiệm yêu cầu đăng nhập Sarah Perez Dòng MacBook Pro màn hình cảm ứng của Apple đẩy mặt bằng giá máy tính xách tay lên mức cao kỷ lục mới Lauren Forristal Giới lãnh đạo AI có thể đang quá xa rời thực tế để phát triển sản phẩm phục vụ công chúng Amanda Silberling Các quỹ đầu tư mạo hiểm sẽ thu về hàng tỷ USD từ đợt IPO của Anthropic, nhưng Amazon dự kiến sẽ thu lợi lớn hơn rất nhiều Marina Temkin