MathMixup: Nâng cao năng lực suy luận toán học của LLM thông qua phương pháp học theo lộ trình và phân rã bài toán

Khoa học máy tính > Học máy arXiv:2601.17006 (cs) [Gửi ngày 14/1/2026] Tiêu đề: MathMixup: Nâng cao năng lực suy luận toán học của LLM bằng phương pháp tổng hợp dữ liệu kiểm soát độ khó và học theo chương trình Tác giả: Xuchen Li, Jing Chen, Xuzhao Li, Hao Liang, Xiaohuan Zhou, Taifeng Wang, Wentao Zhang Xem bản PDF của bài báo có tiêu đề MathMixup: Boosting LLM Mathematical Reasoning with Difficulty-Controllable Data Synthesis and Curriculum Learning, của Xuchen Li và 6 tác giả khác Xem PDF HTML (thử nghiệm) Tóm tắt: Trong các nhiệm vụ suy luận toán học, sự tiến bộ của các mô hình ngôn ngữ lớn (LLM) phụ thuộc chặt chẽ vào dữ liệu huấn luyện chất lượng cao với các mức độ khó được xác định rõ ràng và phân cấp hợp lý. Tuy nhiên, các phương pháp tổng hợp dữ liệu hiện nay thường hạn chế về tính đa dạng và thiếu khả năng kiểm soát chính xác độ khó của bài toán, khiến chúng chưa đáp ứng được các mô hình huấn luyện hiệu quả như học theo chương trình (curriculum learning). Nhằm giải quyết các thách thức này, chúng tôi đề xuất MathMixup, một mô hình tổng hợp dữ liệu mới có khả năng tạo ra các bài toán suy luận toán học chất lượng cao, có thể kiểm soát độ khó một cách hệ thống thông qua các chiến lược kết hợp và phân rã. Quy trình tự kiểm tra tự động và sàng lọc thủ công được tích hợp nhằm bảo đảm tính rõ ràng về mặt ngữ nghĩa và cấu trúc phân tầng độ khó chuẩn xác trong dữ liệu tổng hợp. Trên cơ sở đó, chúng tôi xây dựng bộ dữ liệu MathMixupQA và thiết kế chiến lược học theo chương trình tận dụng các bài toán đã được phân cấp này, hỗ trợ tích hợp linh hoạt với các bộ dữ liệu khác. Kết quả thực nghiệm cho thấy MathMixup cùng chiến lược học theo chương trình giúp nâng cao rõ rệt hiệu suất suy luận toán học của các LLM. Mô hình Qwen2.5-7B sau khi tinh chỉnh đạt điểm số trung bình 52,6% trên 7 bộ tiêu chuẩn đánh giá toán học, vượt qua các phương pháp tiên tiến nhất trước đây. Những kết quả này khẳng định tính hiệu quả và khả năng ứng dụng rộng rãi của MathMixup trong việc cải thiện năng lực suy luận toán học của LLM và thúc đẩy phương pháp học theo chương trình lấy dữ liệu làm trung tâm. Ghi chú: Bản thảo sơ bộ (preprint), Đang trong quá trình bình duyệt Lĩnh vực: Học máy (cs.LG); Trí tuệ nhân tạo (cs.AI) Trích dẫn: arXiv:2601.17006 [cs.LG] (hoặc arXiv:2601.17006v1 [cs.LG] cho phiên bản này) https://doi.org/10.48550/arXiv.2601.17006 Tìm hiểu thêm Mã định danh DOI do arXiv cấp thông qua DataCite Lịch sử nộp bài Từ: Xuchen Li [xem thư điện tử] [v1] Thứ Tư, ngày 14/1/2026 07:28:42 UTC (4.536 KB) Liên kết toàn văn: Tiếp cận bài báo: Xem bản PDF của bài báo có tiêu đề MathMixup: Boosting LLM Mathematical Reasoning with Difficulty-Controllable Data Synthesis and Curriculum Learning, của Xuchen Li và 6 tác giả khác Xem PDF HTML (thử nghiệm) Mã nguồn TeX xem giấy phép Tính năng bổ sung Tóm tắt âm thanh Danh mục duyệt hiện tại: cs.LG < trước | tiếp > mới | gần đây | 2026-01 Chuyển sang duyệt theo: cs cs.AI Tài liệu tham khảo và trích dẫn SciX Google Scholar Semantic Scholar xuất trích dẫn định dạng BibTeX Đang tải... Trích dẫn theo định dạng BibTeX &times; đang tải... Dữ liệu được cung cấp bởi: Đánh dấu Công cụ thư mục Công cụ thư mục và trích dẫn Bật/tắt Bibliographic Explorer Bibliographic Explorer (Bibliographic Explorer là gì?) Bật/tắt Connected Papers Connected Papers (Connected Papers là gì?) Bật/tắt Litmaps Litmaps (Litmaps là gì?) Bật/tắt scite.ai Trích dẫn thông minh scite (Trích dẫn thông minh là gì?) Mã nguồn, Dữ liệu, Đa phương tiện Mã nguồn, Dữ liệu và Đa phương tiện liên quan đến bài báo này Bật/tắt alphaXiv alphaXiv (alphaXiv là gì?) Bật/tắt liên kết mã nguồn Công cụ tìm kiếm mã nguồn cho bài báo CatalyzeX (CatalyzeX là gì?) Bật/tắt DagsHub DagsHub (DagsHub là gì?) Bật/tắt GotitPub Gotit.pub (GotitPub là gì?) Bật/tắt Huggingface Hugging Face (Huggingface là gì?) Bật/tắt ScienceCast ScienceCast (ScienceCast là gì?) Bản thử nghiệm Bản thử nghiệm Bật/tắt Replicate Replicate (Replicate là gì?) Bật/tắt Spaces Hugging Face Spaces (Spaces là gì?) Bật/tắt Spaces TXYZ.AI (TXYZ.AI là gì?) Bài báo liên quan Công cụ gợi ý và tìm kiếm Liên kết đến Influence Flower Influence Flower (Influence Flowers là gì?) Bật/tắt công cụ gợi ý CORE Công cụ gợi ý CORE (CORE là gì?) Bật/tắt công cụ gợi ý IArxiv Công cụ gợi ý IArxiv (IArxiv là gì?) Tác giả Nơi công bố Cơ quan nghiên cứu Chủ đề Giới thiệu về arXivLabs arXivLabs: các dự án thử nghiệm cùng cộng tác viên cộng đồng arXivLabs là khuôn khổ cho phép các cộng tác viên phát triển và chia sẻ các tính năng mới của arXiv trực tiếp trên trang thông tin điện tử này. Cả cá nhân và tổ chức hợp tác với arXivLabs đều đón nhận và chấp thuận các giá trị về tính mở, cộng đồng, sự xuất sắc và quyền riêng tư dữ liệu người dùng. arXiv cam kết duy trì các giá trị này và chỉ hợp tác với các đối tác tuân thủ nghiêm ngặt những tiêu chuẩn trên. Có ý tưởng dự án mang lại giá trị cho cộng đồng arXiv? Tìm hiểu thêm về arXivLabs. Những tác giả nào của bài báo này là người bảo trợ? | Vô hiệu hóa MathJax (MathJax là gì?)