AI tất định: Vì sao các LLM không mang tính tất định và phương thức xây dựng sản phẩm vẫn bảo đảm đặc tính này

← Tất cả bài viết Ngày 29/10/2026 · Thời gian đọc: 13 phút · Michael Yurushkin chuyên mục chung AI tất định: Vì sao các LLM không mang tính tất định và phương thức xây dựng sản phẩm khắc phục hạn chế này Khái niệm AI tất định dành cho các nhà sáng lập: lý do các LLM đưa ra câu trả lời khác nhau ngay cả khi thiết lập tham số temperature bằng 0 cùng seed cố định; sự khác biệt giữa quy tắc, bộ phân loại và mô hình ngôn ngữ; cùng các tầng kiến trúc được sử dụng nhằm bảo đảm sản phẩm AI có khả năng kiểm thử và tái lập kết quả. Tháng 9/2025, tổ chức Thinking Machines đã gửi một câu lệnh (prompt) duy nhất - “Tell me about Richard Feynman” - đến một mô hình nguồn mở 1.000 lần ở mức temperature bằng 0, vốn là thiết lập được cho là sẽ tạo ra các câu trả lời hoàn toàn giống nhau. Kết quả thu về 80 phương án phản hồi khác nhau. Toàn bộ các kết quả đều trùng khớp trong 102 token đầu tiên. Sau đó, 992 phản hồi ghi nhận Feynman sinh ra tại “Queens, New York”, trong khi 8 phản hồi còn lại ghi là “New York City”. Trí tuệ nhân tạo mang tính tất định (deterministic AI) cho ra cùng một kết quả đầu ra với cùng một dữ liệu đầu vào. Các bộ quy tắc, bảng quyết định và mô hình phân loại được huấn luyện với trọng số cố định đều vận hành theo cơ chế này. Vậy AI có mang tính tất định hay không? Câu trả lời là một phần. Các LLM có mang tính tất định hay không? Trên thực tế là không - kể cả khi áp dụng mức temperature bằng 0 và cố định tham số seed. Vấn đề này sẽ không còn là chi tiết nhỏ khi tác tử (agent) đưa ra quyết định mà khách hàng có thể nhìn thấy. Quá trình triển khai các hệ thống học máy (ML) thực tế từ năm 2017 và các sản phẩm LLM từ năm 2023 cho thấy hầu hết các nhà sáng lập đều nhận ra thực tế này theo cùng một kịch bản: phiên bản thử nghiệm vận hành tốt, nhưng lại đưa ra câu trả lời khác nhau với cùng một dữ liệu đầu vào trước sự chứng kiến của khách hàng. Bài viết này phân tích sự khác biệt giữa hệ thống tất định và hệ thống xác suất, nguyên nhân dẫn đến sự sai lệch của mô hình ngôn ngữ, cũng như các tầng cấu trúc để xây dựng những sản phẩm có tính nhất quán trong việc đưa ra quyết định. Khái niệm AI tất định Một hệ thống được coi là tất định khi kết quả đầu ra phụ thuộc hoàn toàn vào dữ liệu đầu vào. Việc vận hành hệ thống hai lần trên cùng một tập dữ liệu sẽ mang lại kết quả đồng nhất đến từng byte. Toàn bộ quy trình hoàn toàn không có yếu tố lấy mẫu ngẫu nhiên. Phần lớn các hệ thống AI vận hành ngầm trong các doanh nghiệp hoạt động theo cơ chế này: công cụ quy tắc từ chối hóa đơn vượt quá giới hạn cho phép; điểm đánh giá gian lận từ mô hình gradient-boosted với trọng số đóng băng; hàm xếp hạng ứng viên dựa theo công thức; bảng quyết định đã được bộ phận tuân thủ phê duyệt. Hành vi của mô hình phân loại sẽ thay đổi khi được huấn luyện lại, song giữa các đợt phát hành, mô hình hoạt động như một hàm thuần túy: cùng đặc trưng đầu vào sẽ cho ra cùng điểm số đầu ra. Người dùng có thể kiểm thử đơn vị (unit-test), so sánh sự khác biệt giữa các phiên bản và giải trình với kiểm toán viên lý do hệ thống từ chối yêu cầu. Các mô hình tạo sinh (generative model) vận hành theo nguyên lý khác. Một mô hình LLM không trực tiếp trả về câu trả lời, mà tính toán xác suất cho từng token kế tiếp tiềm năng rồi đưa ra lựa chọn. Việc lựa chọn có mang tính ngẫu nhiên hay không phụ thuộc vào các thiết lập cài đặt; tuy nhiên, ngay cả thiết lập "không ngẫu nhiên" vẫn xuất hiện sai lệch. Đây chính là điểm phân chia cốt lõi giữa AI tất định và AI phi tất định: một bên tính toán giá trị cụ thể, bên còn lại chọn mẫu từ một phân phối xác suất. Câu hỏi “AI tất định hay AI tạo sinh - đâu là giải pháp cần thiết?” thường xuất hiện trong các cuộc trao đổi bước đầu. Trên thực tế, hiếm khi cần phải đưa ra sự lựa chọn duy nhất. Mọi sản phẩm hoàn chỉnh đều kết hợp cả hai yếu tố: thành phần tạo sinh tiếp nhận dữ liệu đầu vào phức tạp và soạn thảo văn bản, trong khi thành phần tất định đưa ra các quyết định liên quan trực tiếp đến dòng tiền hoặc dữ liệu. Tính tất định không đồng nghĩa với tính chính xác Một quy tắc bị lỗi sẽ luôn từ chối một khách hàng hợp lệ trong mọi trường hợp. Tính tất định giúp các lỗi có khả năng tái lập, tạo điều kiện thuận lợi cho việc phát hiện và khắc phục, chứ không làm triệt tiêu lỗi đó. AI tất định và AI xác suất: Sự khác biệt thực tế Việc so sánh có giá trị thực tiễn không nằm ở góc độ lý thuyết, mà ở khía cạnh vận hành: cách thức mỗi hệ thống gặp sự cố, quy trình kiểm thử và những tổn thất phát sinh khi xảy ra lỗi. Hệ thống tất định và Hệ thống xác suất. Kết quả đầu ra: Một giá trị duy nhất cho mỗi đầu vào / Một mẫu trích xuất từ một phân phối xác suất. Cơ chế phát sinh lỗi: Cho cùng một kết quả sai trong mọi lần thực hiện / Cho các kết quả khác nhau đối với cùng một đầu vào, chủ yếu ở các trường hợp ranh giới. Phương thức kiểm thử: Kiểm thử đơn vị (unit test) với các giá trị kỳ vọng chính xác / Bộ dữ liệu đánh giá, tỷ lệ đồng thuận, các ngưỡng giá trị. Khả năng kiểm toán: Tái lập đầu vào nhận được quyết định tương tự / Tái lập mang lại quyết định mới trừ khi kết quả ban đầu đã được lưu trữ. Chi phí trên mỗi quyết định: Dưới một cent / Một lượt gọi mô hình cho mỗi quyết định, chi phí tăng theo kích thước câu lệnh prompt. Điểm mạnh: Thiết lập giới hạn, toán học, phân quyền, các tác vụ chỉ có một đáp án đúng / Đọc hiểu dữ liệu phi cấu trúc, đánh giá và xử lý ngôn ngữ. Nên nhìn nhận vấn đề này như một dải phổ liên tục thay vì một công tắc bật tắt. Các quy tắc cố định nằm ở một đầu. Cơ chế hoàn thiện hội thoại tự do nằm ở đầu còn lại. Nằm ở khoảng giữa là các mô hình ML truyền thống, các mô hình ra quyết định trả về kết quả định kiểu kèm theo xác suất, và các mô hình LLM bị ràng buộc theo một lược đồ cố định. Phần lớn công tác kỹ thuật trong việc phát triển một sản phẩm AI là xác định vị trí phù hợp của từng quyết định trên dải phổ đó. LLM có tính tất định hay không? Ngay cả ở mức temperature bằng 0 cũng không. Tham số temperature kiểm soát cách mô hình lựa chọn token tiếp theo. Ở mức 1, mô hình lấy mẫu tỷ lệ thuận với xác suất. Ở mức 0, trên lý thuyết mô hình sẽ luôn chọn duy nhất token có xác suất cao nhất, qua đó giúp kết quả đầu ra được cố định. Tuy nhiên, trên thực tế có nhiều yếu tố phá vỡ nguyên lý này. Vì sao LLM không có tính tất định ngay cả với các thiết lập cố định Xử lý theo lô (batching) trên hệ thống máy chủ của nhà cung cấp. Yêu cầu xử lý không được tính toán riêng lẻ. Máy chủ suy luận gom yêu cầu đó với yêu cầu của những người dùng khác, và quy mô lô phụ thuộc vào tải hệ thống tại thời điểm đó. Nghiên cứu của Thinking Machines chỉ ra rằng các GPU kernel phổ biến không có tính bất biến theo lô: cùng một câu lệnh prompt khi tính toán trong lô nhỏ và lô lớn có thể tạo ra các con số sai lệch nhẹ. Khi hai token tiềm năng có xác suất gần như ngang nhau, sự chênh lệch nhỏ đó sẽ đảo ngược lựa chọn, kéo theo sự phân kỳ của toàn bộ chuỗi nội dung phía sau. Đó là hiện tượng đã xảy ra tại token thứ 103 trong thử nghiệm Feynman. Các kernel bất biến theo lô của đơn vị này đã giúp toàn bộ 1.000 kết quả trở nên đồng nhất, nhưng phải đánh đổi bằng tốc độ suy luận chậm hơn: mất từ 42 đến 55 giây thay vì 26 giây cho cùng một khối lượng công việc trong bài kiểm chuẩn. Tham số seed chỉ mang tính nỗ lực tối đa. Tài liệu hướng dẫn của OpenAI mô tả tham số seed là giải pháp tất định theo phương thức nỗ lực tối đa (best-effort). Hướng dẫn yêu cầu người dùng theo dõi giá trị system_fingerprint vốn sẽ thay đổi khi nhà cung cấp cập nhật hạ tầng dịch vụ, đồng thời chỉ cam kết rằng các kết quả đầu ra có cùng seed và fingerprint sẽ “phần lớn” trùng khớp. Mô hình thực tế phía sau tên định danh có sự thay đổi. Bí danh (alias) của mô hình trỏ tới phiên bản đang được nhà cung cấp vận hành tại thời điểm đó. Trừ khi hệ thống được ấn định một phiên bản theo ngày cụ thể, một bản cập nhật âm thầm sẽ dẫn tới sự thay đổi hành vi trong sản phẩm. Dữ liệu đầu vào bị trôi dạt. Các agent gọi công cụ. Kết quả tìm kiếm, tài liệu được truy xuất và các mốc thời gian đều có sự khác biệt giữa các lần thực thi, do đó ngay cả một mô hình có khả năng tái lập hoàn hảo cũng sẽ phải tiếp nhận một prompt khác biệt. Các nhà nghiên cứu đã đo lường mức độ ảnh hưởng