Bỏ qua tới nội dung chính
Quay lại tin tức

[AINews] Các mô hình LLM có thể đọc và ghi trọng số mạng nơ-ron: Phương pháp "Weight Space Programming" (Lập trình không gian trọng số) loại bỏ Autoresearch khỏi vòng lặp RSI (tự cải tiến đệ quy)

Latent Space· swyx .ai· 3/11/2026models

Trong bối cảnh thị trường giá xuống của lĩnh vực AI và công nghệ ngày càng trầm trọng (đáng để châm biếm sâu cay) với việc trái phiếu của Anthropic bị xếp hạng "rác" và các tiêu đề báo chí về hoạt động huy động vốn của OpenAI, cộng đồng vẫn tiếp tục ghi nhận những phát hiện đầy bất ngờ về năng lực công nghệ, điển hình như ngày hôm nay. Cách tốt nhất để đặt bài nghiên cứu mang tính đột phá hôm nay vào đúng bối cảnh là nhìn lại dự án nghiên cứu tự động (autoresearch) của Karpathy cách đây vỏn vẹn 8 tháng, điều từng báo trước một mùa hè đầy lo ngại về khả năng tự cải tiến đệ quy: Về mặt khái quát, thực nghiệm này chứng minh rằng có thể sử dụng một mô hình đủ thông minh và thông qua việc triển khai một chuỗi thử nghiệm trên cụm điện toán, tiến hành huấn luyện một mô hình một cách tự chủ mà không cần con ngư

Trong bối cảnh thị trường suy thoái sâu đối với lĩnh vực AI và công nghệ (mang màu sắc châm biếm cay đắng), khi trái phiếu của Anthropic bị xếp hạng "rác" (junk) và các thông tin gọi vốn của OpenAI liên tục xuất hiện trên trang nhất, giới nghiên cứu vẫn tiếp tục ghi nhận những phát hiện năng lực đầy bất ngờ, điển hình như sự việc ngày hôm nay. Để nhìn nhận bài báo mang tính đột phá hôm nay trong đúng bối cảnh, cần nhắc lại nghiên cứu tự động (autoresearch) của Karpathy cách đây chỉ 8 tháng, sự kiện từng báo trước một giai đoạn đầy lo ngại về khả năng tự cải tiến đệ quy (recursive self improvement): Về mặt trừu tượng, thử nghiệm này chứng minh rằng có thể sử dụng một mô hình đủ thông minh để huấn luyện tự động một mô hình khác thông qua chuỗi thử nghiệm trên một cụm tính toán, mà không cần đến chuyên môn hay sự can thiệp của con người. Tuy nhiên, quy trình này thường phức tạp, bao gồm việc viết mã PyTorch/Jax, vận hành tính toán, theo dõi các đường cong tổn thất (loss curves), phân tích các đánh giá (evals), cũng như tối ưu hóa các nhân tính toán (kernels) và dữ liệu... Chuyên gia khách mời của tháng trước, Alex Zhang, đã trở lại với vai trò đồng tác giả của một phát hiện mang tính chấn động: điều gì sẽ xảy ra nếu yêu cầu một mô hình thông minh đọc và chỉnh sửa trực tiếp các trọng số (weights) của một mô hình kém thông minh hơn? Xem bài viết trên X ↗ Trong học máy (ML), điều này tương đương với việc không cần xem mã nguồn mà quan sát trực tiếp các chữ số 0 và 1 của các tệp thực thi đã biên dịch (quy mô rất nhỏ), và có khả năng: 1) nắm bắt chức năng hoạt động của chúng, 2) sửa lỗi tức thì (one-shot) dựa trên các vết lỗi được ghi nhận hoặc cải thiện theo hướng chung sau 50 bước (nhận định này có thể mang tính cường điệu), 3) tự thiết lập toàn bộ trọng số mạng từ đầu chỉ trong một lần thực hiện, vượt qua một số mô hình được huấn luyện độc lập. Nếu tin rằng các mô hình ngôn ngữ lớn (LLM) thực sự có thể khớp và mô phỏng mọi thứ khi được cung cấp đủ số lượng tham số (trên thực tế, LLM có năng lực tính toán ngày càng tốt hơn khi quy mô mở rộng), thì về mặt lý thuyết, một bước tiến như thế này tất yếu sẽ xảy ra. Dù vậy, việc năng lực này bất ngờ xuất hiện vẫn gây ngạc nhiên lớn, tương tự như phát hiện từ một thử nghiệm tái hiện độc lập: Xem bài viết trên X ↗ Bản chất của đối tượng được mô hình hóa ở đây là một biến thể của khả năng diễn giải cơ chế (mechanistic interpretability - vốn có thể thực hiện thủ công), và hiện khó có khả năng mở rộng sang các tác vụ nâng cao hơn ngoài các trò chơi đơn giản và các chính sách học tăng cường (RL). Tuy nhiên, thế giới hiện đã đi từ con số 0 đến con số 1 đối với năng lực tự cải tiến đệ quy (RSI) hoàn toàn mới này... và năng lực này sẽ ngay lập tức được đưa vào ứng dụng cũng như nghiên cứu sâu hơn nhờ hiệu quả vượt trội. Xem bài viết trên X ↗ Bản tin AI từ ngày 31/10/2026 đến ngày 02/11/2026. Đã tổng hợp thông tin từ 12 chuyên mục trên Reddit (subreddits), 544 tài khoản Twitter và không ghi nhận thêm từ Discord. Trang web của AINews cho phép tra cứu tất cả các số phát hành trước đây. Xin lưu ý, AINews hiện là một chuyên mục của Latent Space. Độc giả có thể tùy chọn đăng ký hoặc hủy đăng ký nhận thư điện tử định kỳ. Điểm tin AI trên Twitter DeepSeek mở mã nguồn nguyên mẫu khung thử nghiệm (harness) "Siêu tác tử" (Super-agent) Phát hành: DeepSeek Harness đã công bố bài viết chi tiết về thiết kế (bài viết) và kho mã nguồn dsh-superagent-prototype (liên kết kho mã nguồn). Phiên bản tiếng Anh chính thức đã được phát hành sau đó (@tianyi). Kiến trúc: Một phiên điều phối (router session) duy trì liên tục để tương tác với người dùng và phân chia nhiệm vụ. Các luồng xử lý độc lập (workers) thực thi song song các tác vụ, được kích hoạt bởi các sự kiện từ GitHub (bản tóm tắt). Kết quả công bố: Trong thử nghiệm nội bộ của DeepSeek, thời gian hoàn thành ở phân vị p95 đã giảm từ 29,5 phút xuống còn 15,7 phút so với phiên đơn lẻ sử dụng các tác tử phụ (subagents) (bản tóm tắt). Cơ sở thiết kế từ góc nhìn phản biện: Chuyên gia phản biện cuối cùng Thôi Thiêm Dực (崔添翼, @tianyi) cho biết thuật ngữ "Super" biểu thị một tầng nằm trên tác tử hoạt động (working agent), không hàm ý năng lực trí tuệ vượt trội. Ông nhận định sự đánh đổi cốt lõi nằm ở tính liên tục xuyên suốt các tác vụ so với thông lượng xử lý (tổng hợp từ Zhihu). Các giới hạn được nêu rõ: Bộ khung điều phối (harness) hiện chưa tích hợp bộ nhớ dài hạn liên phiên (cross-session). Việc phân tách trạng thái, năng lực tính toán và môi trường phần lớn chưa được triển khai. Nguyên mẫu này mới chỉ được kiểm chứng trong môi trường nội bộ quy mô nhỏ, có độ tin cậy cao; các vấn đề về an ninh, quyền riêng tư và giao tiếp giữa các tác tử vẫn còn bỏ ngỏ. Các nghiên cứu tiền đề: Chuyên gia này thừa nhận nhiều nhóm nghiên cứu khác đã khám phá các cấu trúc tương tự từ nhiều tháng trước. Đánh giá từ giới chuyên môn: Tài khoản @badlogicgames nhận định thiết kế này phù hợp với định hướng phát triển của Earendil: một thực thể duy nhất có vòng đời dài, phân quyền đệ quy linh hoạt và kích hoạt sự kiện liên hệ thống. Tài khoản @omarsar0 đánh giá đây là "hình mẫu tiêu chuẩn" trong thiết kế bộ khung điều phối và thực thi. DeepSeek cũng khẳng định mục tiêu hỗ trợ pi cùng các bộ khung lớn khác qua từng thế hệ mô hình (@tianyi). Ý kiến chỉ trích: Tài khoản @teortaxesTex nhận xét bài viết "khá hỗn độn". Nhân vật này lập luận rằng DeepSeek đang xây dựng các giải pháp chắp vá nội bộ để bù đắp cho những điểm yếu của mô hình như hiện tượng ảo giác (hallucination), thay vì nâng cao độ bền vững tổng thể của hệ thống. Người này cũng lưu ý rằng Bloomberg đã đưa tin về một kho lưu trữ (repo) chưa có thông báo bằng tiếng Anh (bài đăng). Sự nhầm lẫn trong cách đặt tên V4.1: Tài liệu hướng dẫn (README) của dự án FlashRSI thuộc Đại học Nhân dân Trung Quốc có nhắc đến mã deepseek-v4.1-pro, làm dấy lên những suy đoán về việc phát hành phiên bản mới. Teortaxes cho rằng đây chỉ là tên giữ chỗ (placeholder): cấu hình thực tế sử dụng v4-flash và v4-pro, đồng thời deepseek-v4.1-flash không phải là mã nhận dạng (ID) hợp lệ (chuỗi thảo luận, cập nhật tiếp theo). Người này cũng cho biết dấu vân tay API (API fingerprints) của V4.1F-1017 vẫn không thay đổi (dấu vân tay). Các đánh giá độc lập và tín hiệu từ mô hình tiên phong Bộ tiêu chuẩn đánh giá GDPx (SemiAnalysis): Bộ tiêu chuẩn này bao gồm 206 tác vụ tác tử trên 11 lĩnh vực có giá trị kinh tế, bao gồm thiết kế vi mạch, kỹ nghệ phần mềm (SWE), tài chính và sinh học. Mô hình đạt kết quả cao nhất chỉ đạt 12% (công bố). Kết quả: Opus 5.5 dẫn đầu với 12%. Gemini 4 Carbon bám sát phía sau với 10,9%, trong khi chi phí thấp hơn khoảng 4 lần (phân tích chi tiết). Phản ứng: Tài khoản @dylan522p đã gửi lời xin lỗi tới Google, đánh giá Carbon "có độ biến thiên lớn hơn" nhưng đặc biệt mạnh ở một số lĩnh vực. Tài khoản @demishassabis hoan nghênh bộ tiêu chuẩn đánh giá này. Phân tích: Tài khoản @eliebakouch nhận thấy việc loại bỏ các bài đánh giá chịu ảnh hưởng bởi cơ chế phòng vệ (safeguard) sẽ làm thay đổi cục diện. Theo góc nhìn đó, Carbon vẫn duy trì mức chi phí thấp, và Sol 6.1 thậm chí còn tiết kiệm hơn. Người này cũng cho rằng OpenAI sở hữu các cơ chế phòng vệ sinh học mạnh hơn Anthropic (ghi chú). So sánh trong cùng dòng mô hình: Sol 6.1 và Astra đạt điểm số gần như tương đương, Carbon vượt trội hoàn toàn so với Argon, trong khi Sonnet thể hiện thế mạnh ở lĩnh vực SWE (so sánh). Khả năng xảy ra lỗi: Một số lượt thử nghiệm an ninh mạng của Argon có thể đã chịu ảnh hưởng từ một lỗi Antigravity (báo cáo). Mối lo ngại về kiểm định: Một bài đăng châm biếm phản ánh rằng GDPx không phải là mã nguồn mở và tiêu tốn nhiều chi phí để kiểm định (bài đăng). Chỉ số năng lực Epoch (Epoch Capabilities Index): DeepSeek V4.1F-1017 đạt 159 điểm, tương đương GPT 5.5. Kết quả này cao hơn 3 điểm so với V4.1F-0910 và 10 điểm so với V4-Pro; Astra đạt mức cao hơn khoảng 10 điểm (@teortaxesTex). Khoảng cách với Mythos: Tài khoản @scaling01 lưu ý rằng sau khoảng 7 tháng, chưa có mô hình nào của Trung Quốc bắt kịp Mythos Preview (khoảng 161 điểm ECI). Chỉ trích về việc phân bổ trọng số:

Nguồn tin: Latent Space — Tác giả: swyx .ai. Bản dịch tiếng Việt do AI thực hiện, có thể có sai sót.