Các chuyên gia AI này muốn thực hiện nghiên cứu quan trọng một cách công khai.

Will Knight Kinh doanh Ngày 2 tháng 10 năm 2026, 12:00 PM Các chuyên gia AI này muốn công khai nghiên cứu có rủi ro cao Nhiều phòng thí nghiệm tiên phong giữ kín nghiên cứu rủi ro của họ. Trillium Labs muốn công bố công trình của mình liên quan đến khả năng tự cải thiện và hành vi của mô hình. Ảnh minh họa: WIRED Staff; Getty Images Một số công ty AI lớn dường như cho rằng cách tốt nhất để ngăn các mô hình trở nên quá hỗn loạn hoặc quá tinh quái là giữ chúng trong các phòng thí nghiệm. Theo suy nghĩ này, nếu chỉ một số ít người được chọn có thể tiếp cận, chúng sẽ gây ít thiệt hại hơn trong thế giới thực trong khi các nhà nghiên cứu cố gắng tìm hiểu khả năng của chúng. Nathan Lambert và Tom Zick, hai nhà khoa học trong ngành, tin vào điều ngược lại. Cặp đôi này đã thành lập một tổ chức phi lợi nhuận, Trillium Labs, sẽ hoạt động trong nhiều lĩnh vực nghiên cứu AI – bao gồm cả các lĩnh vực có khả năng gây vấn đề như tự cải thiện đệ quy (RSI) và tác nhân (agents) – một cách minh bạch hơn. Trên thực tế, điều này có nghĩa là công bố chi tiết các thí nghiệm để các nhà khoa học bên ngoài có thể nghiên cứu và tái tạo chúng. Lambert cho biết cách các phòng thí nghiệm AI tiên phong giữ bí mật công trình của họ làm giảm khả năng cộng đồng xem xét các ý tưởng và đóng góp các phương pháp tiếp cận mới. Ông tin rằng việc cho phép các chuyên gia bên ngoài xem cách các mô hình được xây dựng và tinh chỉnh có thể rất quan trọng để giảm thiểu rủi ro. Lambert chia sẻ với WIRED: “Trong suốt vài thiên niên kỷ qua, nhân loại đã có phương pháp khoa học trong bộ công cụ của mình như một cách để giảm thiểu tác hại và xây dựng tương lai tốt đẹp hơn. Quỹ đạo phát triển AI tiên phong khép kín hiện tại đang đưa chúng ta lùi một bước”. Các mô hình mạnh nhất thế giới, như của OpenAI và Anthropic, chỉ có thể được truy cập thông qua một ứng dụng hoặc giao diện lập trình ứng dụng (API). Thông thường, điều này phải trả giá bằng sự thiếu minh bạch về cách mô hình được xây dựng và cách nó hoạt động. Các công ty khác, đặc biệt là ở Trung Quốc, cung cấp các mô hình tương đối mạnh mẽ có thể được tải xuống và chạy trên phần cứng của người dùng. Ví dụ, công ty Xiaomi của Trung Quốc gần đây đã công bố chi tiết trực tiếp về một đợt huấn luyện lớn liên quan đến một trong các mô hình của họ. Và các nhà nghiên cứu tại Stanford đang huấn luyện trước mô hình AI Marin một cách công khai. Ngành công nghiệp hiện đang bị cuốn vào một cuộc chiến về chiến lược nào là tốt nhất, chủ yếu là do sức mạnh của các mô hình tiên phong hiện nay. Chúng có thể tự động phát hiện các lỗ hổng phần mềm mới và tự động thăm dò, tấn công vào các hệ thống, và các vụ tấn công mạng cấp cao gần đây đã thúc đẩy sự giám sát chặt chẽ hơn nữa. Những người ủng hộ hệ thống truy cập hạn chế cho rằng điều quan trọng là phải giữ sức mạnh đó trong tay một số ít người đáng tin cậy, trong khi những người thuộc phe của Lambert và Zick tin rằng sự hiểu biết chung về các rủi ro sẽ mang lại lợi ích tốt hơn cho tất cả chúng ta. Ông Lambert trước đây làm việc tại Ai2, một phòng thí nghiệm nghiên cứu đã áp dụng cách tiếp cận đặc biệt cởi mở đối với AI, bao gồm công bố chi tiết về dữ liệu và phương pháp huấn luyện được sử dụng để xây dựng các mô hình, cùng với chính các mô hình đó. Ông từng làm việc tại Hugging Face, điều hành một blog kỹ thuật nổi tiếng và sáng lập American Truly Open Models, một sáng kiến nhằm khuyến khích các công ty Hoa Kỳ phát hành nhiều mô hình mở hơn. Bà Zick từng làm việc tại Đại học Harvard và hỗ trợ Charles Schwab xây dựng các chính sách về "AI có trách nhiệm". Hai người gặp nhau qua Zoom trong đại dịch COVID-19, khi cả hai đều là nghiên cứu sinh tại Đại học California, Berkeley, làm việc về AI. Họ nảy ra ý tưởng thành lập tổ chức phi lợi nhuận mới sau khi nhận thấy nghiên cứu AI trong ngành công nghiệp đã trở nên tách rời khỏi công trình học thuật như thế nào; ông Lambert cho biết các giáo sư và sinh viên thường không thể tái tạo công việc đang diễn ra trong các phòng thí nghiệm của các công ty lớn vì họ thiếu các nguồn lực cần thiết. Bà Zick cho biết Trillium Labs, ra mắt hôm nay, ban đầu sẽ tập trung vào giai đoạn hậu huấn luyện (post-training) – tinh chỉnh các mô hình lớn sau khi chúng đã được xây dựng. Một lĩnh vực trọng tâm khác sẽ là RSI (Recursive Self-Improvement - Tự cải thiện đệ quy), một quy trình phát triển các mô hình mới bằng cách để AI đóng góp vào nghiên cứu. Viễn cảnh tiến bộ liên tục có thể kéo dài vô thời hạn, dẫn đến mất kiểm soát của con người, đã khiến nhiều nhà nghiên cứu AI lo ngại. Vấn đề này đã thu hút sự chú ý của công chúng vào đầu tháng này khi một nhà nghiên cứu của Anthropic rời công ty và cảnh báo rằng RSI có thể gây ra mối đe dọa hiện hữu cho nhân loại. Tổ chức phi lợi nhuận cũng sẽ xem xét cách học tăng cường (reinforcement learning), vốn thưởng cho mô hình khi có kết quả tốt và phạt khi có kết quả xấu, có thể cải thiện khả năng của nó. Cách tiếp cận đó đã làm cho các tác nhân (agents) trở nên có năng lực hơn nhiều, nhưng cũng dễ thực hiện những điều bất ngờ hơn. Họ sẽ nghiên cứu cách học tăng cường định hình đặc tính và hành vi của các mô hình AI, một phương pháp có thể gây ra vấn đề khi một mô hình trở nên quá xu nịnh, chẳng hạn. Bà Zick nói: "Để hiểu một điều gì đó như cách học tăng cường mở rộng quy mô trong giai đoạn hậu huấn luyện, bạn cần năng lực tính toán đáng kể và rất nhiều thử nghiệm cẩn thận". Bà cho biết việc công bố chi tiết về cách thức hoạt động của các quá trình huấn luyện tăng cường có thể mang lại những hiểu biết đáng ngạc nhiên khi các nhà nghiên cứu bên ngoài xem xét kỹ lưỡng công việc này. Phòng thí nghiệm đã huy động được một khoản tiền không được tiết lộ từ Schmidt Sciences, Halcyon Futures và các nhà tài trợ khác. Các nhà sáng lập cho biết họ đặt mục tiêu huy động tổng cộng từ 40 đến 100 triệu USD và dự kiến chi 30 triệu USD cho việc huấn luyện trong 18 tháng tới. Ông Tim Fist, Giám đốc chính sách công nghệ mới nổi tại Viện Tiến bộ (Institute for Progress), một tổ chức tư vấn chính sách, chia sẻ với WIRED: "Tôi là một người hâm mộ lớn của sự minh bạch hơn nhiều so với những gì chúng ta hiện có trong nghiên cứu và phát triển (R&D)". Ông Lambert và bà Zick cuối cùng hy vọng rằng Trillium Labs sẽ đóng góp những sắc thái cần thiết cho cuộc thảo luận rộng hơn về cách tốt nhất để xây dựng AI. Ông Lambert nói: "Chúng ta đang ở trong một kỷ nguyên mà diễn ngôn về AI bị chi phối bởi một vài quan điểm thế giới. Chúng tôi tin rằng phương pháp khoa học và việc đo lường cẩn thận các sự kiện gần đây là cách tốt nhất để hiểu các hành vi mới của các mô hình AI".