Cựu nhà nghiên cứu của DeepMind nhận định phương pháp của AlphaGo có thể khắc phục hiện tượng "ảo giác" của AI

Nghiên cứu AI Sao chép liên kết vào bộ nhớ tạm Chia sẻ bài viết Đến phần bình luận Cựu nhà nghiên cứu DeepMind nhận định chiến lược của AlphaGo có thể khắc phục hiện tượng ảo giác của AI Jonathan Kemper Xem hồ sơ LinkedIn của Jonathan Kemper Ngày 27/10/2026 Metis Reasoning Các điểm chính Cựu nhà nghiên cứu DeepMind, ông Thore Graepel, đã thành lập Metis Reasoning nhằm xây dựng các hệ thống AI đáng tin cậy và có thể kiểm chứng hơn, lấy phương pháp tiếp cận của AlphaGo làm hình mẫu. Phương pháp này tách biệt tri thức khỏi trọng số mô hình và lưu trữ trong một sổ cái bên ngoài, nơi một mô-đun độc lập sẽ đối chiếu từng giả định với các bằng chứng. Cách tiếp cận này hướng tới mục tiêu giảm thiểu hiện tượng ảo giác và cung cấp các lời giải thích có dẫn chứng xác thực, song hiện mới dừng lại ở khuôn khổ lý thuyết và chưa có hệ thống vận hành thực tế. Đặt câu hỏi về bài viết này… Tìm kiếm Cựu nhà nghiên cứu DeepMind Thore Graepel đặt mục tiêu xây dựng các hệ thống AI có khả năng theo dõi những thông tin đã biết và kiểm chứng mọi kết luận dựa trên bằng chứng. Nhóm nghiên cứu của ông cho rằng các mô hình ngôn ngữ lớn hơn sẽ không thể giải quyết được vấn đề này. Ông Thore Graepel tin rằng ý tưởng từng giúp AlphaGo đánh bại kỳ thủ cờ vây chuyên nghiệp Lee Sedol vào năm 2016 có thể giúp các hệ thống AI, bao gồm cả robot, hoạt động tin cậy hơn. Cựu nhà nghiên cứu của DeepMind đã thành lập Metis Reasoning và trình bày phương pháp tiếp cận này tại hội nghị GTC của Nvidia ở Berlin, nơi nhà sản xuất chip này đang mở rộng nền tảng cho lĩnh vực robot và AI vật lý nhằm chuyển hóa bài toán dữ liệu của ngành robot thành bài toán năng lực tính toán. Sổ cái tri thức thay vì tri thức tích hợp trong trọng số mô hình Theo Metis, các mô hình ngôn ngữ hiện nay mới chỉ tương đương với mạng lưới dự đoán của AlphaGo, vốn dùng để gợi ý các nước đi khả dĩ. AlphaGo đã kết hợp mạng lưới đó với quy trình tìm kiếm có hệ thống qua các chuỗi nước đi và tìm ra "Nước cờ 37" trứ danh – một nước đi mà mạng lưới dự đoán từng ước tính chỉ có xác suất khoảng 1/10.000 đối với một kỳ thủ là con người. Metis muốn đưa phương thức tìm kiếm tương tự vào năng lực suy luận tổng quát. Metis Reasoning ứng dụng các cấu phần của AlphaGo vào suy luận tổng quát, trong đó trạng thái tri thức rõ ràng đóng vai trò như bàn cờ. | Ảnh: Metis Để thực hiện điều này, cần có một hệ thống mà tài liệu của công ty gọi là sổ cái tri thức tường minh, tương đương với bàn cờ. Các ý tưởng tương tự đã từng xuất hiện: GraphRAG của Microsoft tổ chức tri thức bên ngoài trọng số mô hình dưới dạng đồ thị tri thức, trong khi AlphaGeometry2 của Google kết hợp một mô hình ngôn ngữ với một công cụ biểu trưng để xác minh các chứng minh toán học. Metis muốn mở rộng các nguyên lý này sang những câu hỏi mở trong thế giới thực. Sổ cái tri thức của hệ thống ghi nhận những gì đã biết, mức độ tin cậy của hệ thống và những câu hỏi còn bỏ ngỏ. Một mô-đun riêng biệt kiểm tra các mục mới nhập dựa trên tính toán, chứng minh hình thức hoặc bằng chứng thực nghiệm; khi một giả định bị bác bỏ, mọi kết luận phụ thuộc vào giả định đó đều được đánh giá lại. Một "nước đi" có thể là một câu hỏi, một thử nghiệm hoặc một phản biện đối với giả định hiện có; hệ thống sẽ chọn phương án giúp giảm thiểu tối đa mức độ không chắc chắn đối với câu hỏi ban đầu, từ đó đưa ra câu trả lời hoặc một quyết định từ chối có căn cứ. Theo phương pháp tiếp cận của Metis Reasoning, một bước suy luận chỉ làm thay đổi trạng thái tri thức của hệ thống khi một quy trình kiểm tra độc lập xác nhận bước đó có đủ căn cứ. | Ảnh: Metis Tương tự AlphaGo, hai mạng nơ-ron thực hiện đề xuất và đánh giá các nước đi, được huấn luyện dựa trên dữ liệu nhật ký các cuộc khảo sát trước đó nhưng không thể can thiệp hay ghi đè các quy tắc xác minh. Metis cho biết cấu trúc này sẽ giúp giảm thiểu hiện tượng ảo giác, cung cấp các diễn giải có trích dẫn nguồn, đồng thời cho phép chỉnh sửa hoặc xóa bỏ tri thức mà không cần huấn luyện lại. Do quá trình suy luận được chia thành các bước nhỏ, phương pháp tiếp cận này cũng có thể tạo điều kiện thuận lợi cho các mô hình nhỏ hơn vận hành trên thiết bị biên và trong robot. Quảng cáo Các doanh nghiệp vẫn chưa đủ tin tưởng mô hình ngôn ngữ để triển khai thực tế Theo Metis, việc bổ sung dữ liệu và năng lực tính toán giúp cải thiện các mô hình ngôn ngữ nhưng không giải quyết được các vấn đề cốt lõi của công nghệ này: các mô hình tự tạo ra câu trả lời, chuỗi suy luận không thể xác minh, và tri thức bị khóa chặt bên trong các trọng số. Báo cáo lập luận rằng hiện tượng ảo giác bắt nguồn từ chính quá trình huấn luyện, do các mô hình học cách tạo ra văn bản có vẻ hợp lý thay vì văn bản đúng sự thật; ngay cả chuỗi suy nghĩ trong các mô hình suy luận hiện nay cũng thường không thể hiện được cách thức câu trả lời thực sự được đưa ra. Báo cáo nhận định, đó là lý do vì sao AI đến nay vẫn tạo ra rất ít tác động kinh tế. Khi một tác tử (agent) hành động đại diện cho doanh nghiệp, các sai sót rất khó truy nguyên nguồn gốc và tri thức sai lệch không thể bị loại bỏ khỏi mô hình. AI từng phát triển bùng nổ trong kỹ nghệ phần mềm do mã nguồn dễ kiểm thử và hoàn tác, nhưng trong y tế, tài chính, thiết kế chip và kỹ thuật robot, báo cáo cho rằng AI cần phải được kiểm chứng ngay từ nền tảng. Quảng cáo Bản sách trắng này mới chỉ mô tả một chương trình nghiên cứu, chưa có hệ thống vận hành thực tế, chưa có bộ chỉ số đánh giá (benchmarks), và chưa có sự so sánh với các mô hình suy luận hiện hành. Nhóm nghiên cứu thừa nhận rằng thế giới thực, khác với cờ vây, chỉ cung cấp thông tin không đầy đủ, việc thu thập bằng chứng có thể tốn kém chi phí, và một số câu hỏi hoàn toàn không có lời giải. Câu hỏi lớn nhất vẫn chưa có lời đáp là việc một sổ cái tri thức đã xác minh sẽ hình thành như thế nào trong các lĩnh vực phức tạp ngoài đời thực, vượt khỏi các ví dụ trong sách giáo khoa, xét đến việc các hệ thống AI ký hiệu từng thất bại chính vì toàn bộ tri thức khi đó phải nhập thủ công. Quảng cáo Sau Silver và Rocktäschel, thêm một chuyên gia kỳ cựu của Deepmind tự khởi nghiệp Theo trang web cá nhân, ông Graepel nhận bằng tiến sĩ về học máy tại Berlin vào năm 2001. Tại Microsoft Research, ông đã tham gia phát triển TrueSkill, hệ thống ghép cặp người chơi của Xbox Live. Sau đó, ông chuyển sang Deepmind và làm việc với các dự án AlphaGo, AlphaZero, cùng MuZero. Sau một thời gian làm việc tại Altos Labs, gần đây nhất ông công tác tại nhóm hậu AGI (post-AGI) của Google Deepmind trước khi rời đi vào mùa hè vừa qua. Ông hiện cũng giữ chức danh giáo sư học máy tại University College London. Theo Bloomberg, ông Graepel đang huy động vòng vốn ở mức vài chục triệu USD cho Metis, đồng thời một vòng gọi vốn tiếp theo trị giá vài trăm triệu USD ở mức định giá cao hơn cũng đang được xúc tiến. Ông là kiến trúc sư mới nhất đứng sau những đột phá nổi tiếng nhất của Deepmind