Tác giả của "bài học cay đắng" đưa ra một bài học đắt giá cho những người ủng hộ việc mở rộng quy mô LLM.

Nghiên cứu về AI Sao chép đường dẫn vào bộ nhớ tạm Chia sẻ bài viết này Đi tới phần bình luận Tác giả của "Bài học cay đắng" đưa ra lời cảnh tỉnh cho những người ủng hộ việc mở rộng quy mô LLM Matthias Bastian Xem hồ sơ LinkedIn của Matthias Bastian Ngày 8/11/2026 Nano Banana Pro được gợi ý bởi THE DECODER Điểm tin chính Nhà khoa học đoạt giải Turing Richard Sutton, tác giả của bài tiểu luận có tầm ảnh hưởng lớn năm 2019 "The Bitter Lesson" (Bài học cay đắng), đã nhận định trong một bài đăng mới rằng chỉ riêng năng lực tính toán đơn thuần là chưa đủ để tạo nên trí tuệ. Ngành khoa học AI cần những phương pháp mới thông minh hơn và hiện "còn lâu mới hoàn tất". Ông Sutton trước đó đã chỉ trích các giới hạn của việc đơn thuần mở rộng quy mô các mô hình ngôn ngữ lớn, gọi dữ liệu tổng hợp (synthetic data) là "sai lầm lớn", đồng thời kêu gọi phát triển các tác tử sở hữu mô hình thế giới có khả năng liên tục học hỏi từ trải nghiệm thực tế. Thế giới thực phức tạp vô hạn, ông Sutton lập luận, và chuyên môn của con người đang là điểm nghẽn cản trở việc mở rộng quy mô thực sự. Đặt câu hỏi về bài viết này… Tìm kiếm Tác giả của "Bài học cay đắng" đưa ra lời cảnh tỉnh cho những người ủng hộ LLM. Nhiều nhà nghiên cứu khác cũng đồng tình với quan điểm này. Trong một bài đăng gần đây, nhà khoa học đoạt giải Turing Richard Sutton cho rằng chỉ riêng năng lực tính toán đơn thuần là không đủ để tạo ra trí tuệ. Ngành khoa học AI cần những phương pháp mới thông minh hơn và hiện "còn lâu mới hoàn tất". Bài đăng của ông đã làm dấy lên những cuộc thảo luận sâu rộng trong cộng đồng AI trên mạng xã hội X, dấu hiệu cho thấy ông Sutton đã chạm trúng vấn đề then chốt. Sutton qua X Trong bài tiểu luận nổi tiếng năm 2019 "The Bitter Lesson", ông Sutton từng lập luận rằng các phương pháp tổng quát có khả năng mở rộng quy mô cùng năng lực tính toán cuối cùng sẽ đánh bại các cách tiếp cận kỹ thuật phức tạp do con người thiết kế. Yếu tố quyết định là những ý tưởng phát triển đồng hành với năng lực tính toán, thay vì dựa dẫm vào các giả định của con người. Quan điểm của ông Sutton không phải là điều mới. Trong các phát ngôn trước đây, ông từng chỉ trích những hạn chế của việc đơn thuần mở rộng quy mô các mô hình ngôn ngữ lớn. Ông gọi dữ liệu tổng hợp là một "sai lầm lớn", bởi thế giới thực phức tạp vô hạn và mọi sự mô phỏng về nó đều chỉ ở mức "vi mô". Chuyên môn của con người đóng vai trò là một điểm nghẽn cản trở việc mở rộng quy mô thực sự. Thay vào đó, ông kêu gọi phát triển các tác tử sở hữu mô hình thế giới có khả năng liên tục học hỏi từ chính trải nghiệm của chúng. Thế giới phức tạp hơn rất nhiều so với những gì văn bản trên internet có thể nắm bắt, và các mô hình ngôn ngữ hiện nay không tiếp tục học hỏi sau quá trình huấn luyện, ông Sutton lập luận. Điều cần thiết hiện nay là khả năng học tập liên tục mà không làm triệt tiêu các tri thức cũ. LLM bị đặt dưới sự xem xét kỹ lưỡng Nhà nghiên cứu AI Jerry Tworek, người cũng như nhiều chuyên gia khác đã rời OpenAI—một trong những công ty AI hàng đầu—để tìm kiếm các hướng tiếp cận AI mới, đã đặt nhận định mới nhất của ông Sutton vào bối cảnh thực tế. Bài học cay đắng vẫn giữ nguyên giá trị, song năng lực tính toán đưa vào huấn luyện mô hình càng lớn thì vai trò của thuật toán càng trở nên quan trọng, ông Tworek nhận định. Một số thuật toán có thể mở rộng quy mô, trong khi số khác rơi vào ngõ cụt, và nhiều chiều hướng mở rộng quy mô hiện vẫn chưa được khám phá. Thành công tạm thời của việc mở rộng quy mô mô hình transformer, kết hợp với cách hiểu sai về bài học cay đắng, "đã làm sai lệch định hướng tư duy của cả một thế hệ các nhà khoa học". Nhà nghiên cứu AI Jayden Teoh bổ sung thêm một góc nhìn khác. Ông cho biết bản thân đã nhiều lần chứng kiến bài học cay đắng kìm hãm nghiên cứu học thuật, khi các ý tưởng đầy hứa hẹn bị bác bỏ chỉ vì đi chệch khỏi tinh thần cốt lõi của bài học này. Ông Teoh lập luận rằng đây không phải là lỗi của ông Sutton, mà là hệ quả từ việc hiểu sai thông điệp ban đầu của tác giả. Chuyên gia Teoh cũng lập luận rằng, khi nhìn nhận lại, những ý tưởng tưởng chừng không tuân theo "bài học cay đắng" (the bitter lesson) thường bị thay thế bởi các phương pháp tiếp cận tinh gọn và tổng quát hơn. Ông cho rằng điều đó không đồng nghĩa với việc các ý tưởng này sai lầm, mà trên thực tế, chúng thường là yếu tố tạo tiền đề cho sự phát triển ở thời điểm đó. Ông mong muốn cộng đồng nghiên cứu ngừng bác bỏ những công trình như vậy ngay khi chúng vừa xuất hiện. Teoh viết: “Một ý tưởng không nhất thiết phải tồn tại vĩnh viễn qua quá trình mở rộng quy mô thì mới được coi là đóng góp quan trọng cho sự tiến bộ của AI”. Quảng cáo Sự bất đồng giữa lời kêu gọi của Sutton về các phương pháp học tập mới và sự chỉ trích của Tworek đối với việc mở rộng quy mô mô hình transformer một cách thiếu chọn lọc đang xuất hiện rõ nét trong một làn sóng các doanh nghiệp khởi nghiệp. Trong ấn bản Frontier Radar #5 mới nhất, có 45 phòng thí nghiệm AI mới được ghi nhận đang tập trung khai thác chính những khoảng trống này. Bản thân Tworek hiện điều hành Core Automation, một trong những phòng thí nghiệm kể trên, nhằm tìm kiếm các thuật toán học máy vượt ra ngoài phạm vi tiền huấn luyện (pretraining) và học tăng cường (reinforcement learning). Điểm chung giữa các nhà sáng lập này, bao gồm cả Sutton với Oak Lab, là niềm tin vào một thế hệ AI có năng lực vượt trội hơn, song hoài nghi khả năng đạt được mục tiêu đó nếu chỉ dựa vào công thức hiện nay. Một số bên vẫn đặt cược vào việc mở rộng quy mô LLM Nhiều nhà lãnh đạo nổi bật trong ngành lại có góc nhìn hoàn toàn khác. Giám đốc điều hành OpenAI Sam Altman cho rằng tiềm năng mở rộng quy mô mô hình ngôn ngữ lớn (LLM) còn lâu mới cạn kiệt, đồng thời cho rằng những ý kiến chỉ trích LLM đang làm chậm bước tiến của cả một thế hệ các nhà nghiên cứu do nhận định quá chắc chắn về những giới hạn của việc mở rộng quy mô. Để chứng minh, ông dẫn chứng việc một mô hình của OpenAI gần đây đã bác bỏ một giả thuyết toán học mà giới nghiên cứu từ lâu chưa thể giải quyết. Ông đánh giá các mô hình thế giới (world models) rất hữu ích, đơn cử như trong lĩnh vực chế tạo robot, song khẳng định dữ liệu thực tế cho thấy xu hướng tiếp tục mở rộng quy mô LLM vẫn chiếm ưu thế rõ rệt. Giám đốc điều hành Anthropic Dario Amodei cũng đưa ra quan điểm tương tự khi ví tiến trình mở rộng quy mô như một dải cầu vồng không có điểm kết thúc. Với tư cách là lãnh đạo của hai công ty AI xây dựng toàn bộ lộ trình kỹ thuật dựa trên định hướng này, việc Amodei và Altman có quan điểm ủng hộ là điều hiển nhiên. Tin tức AI không thổi phồng – Được tuyển chọn bởi con người Đăng ký THE DECODER để đọc nội dung không quảng cáo, nhận bản tin AI hằng tuần, báo cáo chuyên sâu độc quyền "AI Radar" 6 lần mỗi năm, toàn quyền truy cập kho lưu trữ và tham gia khu vực bình luận. Đăng ký ngay Nguồn: Sutton qua X