AI ngày càng nâng cao năng lực toán học. Dưới đây là nguyên nhân.

Vào tháng 5, một mô hình nội bộ của OpenAI đã tìm ra phản ví dụ cho giả thuyết khoảng cách đơn vị của Erdős. Đây là bài toán mở chưa có lời giải từ năm 1946. Nhiều chuyên gia đã nỗ lực chứng minh giả thuyết này, nhưng OpenAI lại tìm ra một phản ví dụ bác bỏ. Một tháng sau, OpenAI công bố chứng minh cho bài toán Phủ chu trình đôi (Cycle Double Cover - CDC), tiếp đó đưa ra lời giải cho 10 bài toán mở khác vào tháng 7, cùng một chứng minh cho phương trình Navier-Stokes vào tháng 9. Trong khi đó, Anthropic công bố bản hình thức hóa định lý lớn Fermat và các giới hạn nâng cao cho giả thuyết Riemann. Các mô hình trí tuệ nhân tạo đang cho thấy năng lực toán học vượt bậc. Vấn đề đặt ra là liệu có thể dự đoán những dạng bài toán mà các mô hình này có khả năng giải quyết hay không. Yếu tố nào giúp một bài toán trở nên khả thi đối với mô hình ngôn ngữ lớn (LLM), và những lời giải này có điểm chung gì? Nếu AI giải quyết vấn đề theo phương thức khác với con người, việc xác định sự khác biệt này sẽ hỗ trợ định hướng hiệu quả phạm vi ứng dụng của công nghệ. Lập luận bác bỏ bài toán khoảng cách đơn vị nhận được nhiều phân tích chuyên môn nhất, do đó là trường hợp điển hình để xem xét. Độ phức tạp của bài toán Có thể tiếp cận vấn đề qua một mô hình tư duy đơn giản. Để giải quyết bất kỳ bài toán nào, cần có một chuỗi các gợi ý hoặc phát kiến, xen kẽ với quá trình xử lý công việc cụ thể. Mô hình này tương thích rõ rệt với cả các vấn đề thường nhật lẫn các lý thuyết phức tạp như Thuyết tương đối rộng1 (xem phần bổ sung). Trình tự diễn ra theo cấu trúc: Phát kiến -> thời gian / nỗ lực -> phát kiến -> thời gian / nỗ lực -> giải pháp. Một chuyên gia sẽ cần ít gợi ý hơn so với người mới bắt đầu do có nền tảng kiến thức sâu rộng hơn. Trong bài phân tích về chứng minh bài toán khoảng cách đơn vị, nhà toán học W. T. Gowers cũng áp dụng ý tưởng tương tự: độ khó của một chứng minh là chuỗi gợi ý ngắn nhất cho phép các chuyên gia tái lập lại chứng minh đó. Khái niệm này được gọi là độ phức tạp Kolmogorov2 theo modulo chuyên gia. Đối với bài toán khoảng cách đơn vị, chuỗi gợi ý của Gowers gồm ba bước: Tìm kiếm một phản ví dụ. Tiếp cận mô hình cấu trúc tối ưu hiện có và tổng quát hóa mô hình đó. Thử nghiệm một chuỗi các trường số có bậc tăng dần, song thao tác với các i-đê-an nguyên tố (prime ideal) có chuẩn bị chặn. Công thức độ phức tạp do Gowers đề xuất là 2^k + t, trong đó k là độ dài của chuỗi gợi ý ngắn nhất và t là khối lượng công việc cần thiết để triển khai gợi ý. Đây là dạng công thức mang vẻ chặt chẽ cho đến khi áp dụng các giá trị số cụ thể, và đó cũng chính là bản chất của vấn đề. Độ phức tạp tăng theo hàm mũ tương ứng với số lượng phát kiến cần có để giải quyết bài toán. Phần lớn tiến trình giải quyết vấn đề nằm ở khối lượng công việc giữa các phát kiến. Sau thời khắc tìm ra gợi ý ban đầu, người nghiên cứu phải dành nhiều tháng để phát triển ý tưởng cho đến khi tạo ra bước nhảy vọt khái niệm tiếp theo. Đối với chuyên gia, thời gian tiêu tốn là đại lượng đo lường phù hợp cho khối lượng công việc này, đại diện bằng biến số t. Ngay cả khi được cung cấp gợi ý đầu tiên về bài toán khoảng cách đơn vị, người thực hiện vẫn phải bỏ ra lượng công sức đáng kể mới có thể đạt tới cấu trúc tổng quát. Cách tiếp cận này hữu ích nhưng mang tính quy nạp hồi cứu. Không thể chỉ nhìn vào một bài toán mà dự đoán trước bài toán đó cần bao nhiêu gợi ý. Do đó, thời gian tồn tại của bài toán, số lần thử nghiệm thất bại và giải thưởng đi kèm thường được dùng làm thước đo đại diện để xác định độ khó. Đặc điểm của một gợi ý Một phát kiến điển hình sẽ làm thay đổi cách đặt vấn đề. Cách thức biểu diễn và nhận thức về bài toán cũng thay đổi theo. Giá trị của một gợi ý được quyết định bởi hai yếu tố: Mức độ khó xảy ra của gợi ý trước khi xuất hiện so với mức độ hiển nhiên sau khi được cung cấp → Điều này phức tạp hơn so với nhận định thông thường. Trong bài toán khoảng cách đơn vị, nhiều chuyên gia từng cho rằng khả năng tồn tại phản ví dụ là rất thấp. Vị trí trong chuỗi tiến trình: các gợi ý mang tính tuần tự. Gợi ý thứ ba chỉ phát huy tác dụng khi việc nghiên cứu hai gợi ý đầu tiên đã đạt đủ tiến độ để có thể đưa vào thực nghiệm. Điều này bác bỏ quan điểm ngây thơ về việc áp dụng phương pháp vét cạn (brute force), tức liệt kê hàng nghìn kỹ thuật toán học và thử nghiệm mọi tổ hợp3. Chuỗi gợi ý duyệt qua một cấu trúc cây. Những phát hiện ban đầu làm thay đổi bản chất bài toán và mở ra các lựa chọn tiếp theo. Con người giải quyết vấn đề theo chiều rộng Kết hợp giữa k và t sẽ phản ánh mô hình tìm kiếm của con người: đề xuất các hướng tiếp cận tiềm năng, thăm dò sơ bộ, loại bỏ phần lớn và tập trung vào một số ít phương án. Một hướng đi triển vọng vẫn có thể bị từ bỏ nếu không đem lại tín hiệu khả quan từ giai đoạn đầu4. Đây là một giới hạn cố hữu của con người: việc phát triển một ý tưởng có thể kéo dài nhiều tháng. Trước khi đầu tư nguồn lực, nhà nghiên cứu cần có căn cứ để tin vào tính khả thi của hướng đi đó, như triển vọng về mặt khái niệm, kết quả ban đầu, hoặc kinh nghiệm từ các bài toán tương tự. Thời gian tìm ra câu trả lời càng lâu, tiêu chuẩn để thử nghiệm ý tưởng càng khắt khe. Phần lớn các phần mềm nghiên cứu ra đời nhằm rút ngắn khoảng thời gian này bằng cách tự động hóa những công đoạn tẻ nhạt, máy móc và có tính lặp lại. AI giúp rút ngắn thời gian đủ nhiều để đảo ngược hoàn toàn chính mô hình tìm kiếm, kéo theo sự thay đổi của toàn bộ các quy trình tiếp theo. AI và độ phức tạp Trước hết là yếu tố t. Nỗ lực tương đương của mô hình là năng lực tính toán (compute) và lượng thẻ từ (token), được tiêu hao cho một tiến trình xử lý (test time compute) hoặc phân bổ qua các tác tử song song (parallel test time compute). Quá trình tiền huấn luyện (pretraining) cũng cung cấp khối lượng tri thức mà một nhà nghiên cứu con người phải tự tìm kiếm hoặc tái thiết lập. Không một chuyên gia riêng lẻ nào có thể nắm bắt mọi bước phát triển trong quá khứ, do đó đôi khi họ lặp lại những việc đã từng được thực hiện. Sự khác biệt lớn hơn nằm ở phương thức tìm kiếm của mô hình: LLM tìm kiếm theo chiều sâu Khi tiếp nhận một câu lệnh (prompt) đơn lẻ, mô hình sẽ đưa ra một giải pháp, có thể đúng hoặc sai. Khi nhận yêu cầu chứng minh, mô hình sẽ đưa ra một kết quả tiệm cận với một lập luận chặt chẽ. Chuỗi suy nghĩ (CoT) của các mô hình này cũng vận hành theo phương thức tìm kiếm tham lam theo chiều sâu (greedy depth first). Quy trình này có thể mở rộng quy mô. Khi giao mười hướng tiếp cận cho các tác tử song song, hệ thống sẽ triển khai mười nỗ lực nhằm hướng tới kết luận; các hướng đi có thể hoàn toàn khác biệt hoặc trùng lặp một phần. Mỗi nhánh hoặc sẽ đi vào ngõ cụt, hoặc sẽ tạo ra một lập luận có vẻ hợp lý. Nếu không có sự kiểm soát, quá trình này sẽ tạo ra những chứng minh sai lệch nhưng được ngụy biện rất chặt chẽ. Điều này có vẻ gây lãng phí tài nguyên tính toán, cho đến khi tích hợp một công cụ xác thực tự động (verifier)5 có khả năng cắt tỉa các nhánh đã hoàn thành và xác định những kết quả chính xác. Nhờ công cụ kiểm tra này, việc phân bổ nguồn lực tính toán khổng lồ cho các ý tưởng chưa chắc chắn trở nên hợp lý. Tính khả thi của một ý tưởng có thể được xác định chỉ trong vài phút. Điểm mấu chốt là công cụ xác thực chỉ có thể đánh giá các lập luận đã hoàn chỉnh, không thể dự đoán triển vọng của một ý tưởng mới chỉ phát triển một nửa. Sự đối lập Một gợi ý cần đạt chất lượng đến mức nào nếu hiệu quả của nó có thể được xác định chỉ trong vòng năm phút? Đối với con người, tiêu chuẩn đặt ra rất cao vì việc theo đuổi một gợi ý có thể tiêu tốn nhiều tháng làm việc. Đối với một mô hình, tiêu chuẩn này gần như biến mất.