Điều gì sẽ xảy ra nếu tác nhân AI của bạn có thể cảm thấy hối tiếc trước khi hành động?

Một bài báo mới đề xuất trang bị cho các tác nhân AI một khiếm khuyết rất con người – và biến nó thành một tính năng. Hầu hết các tác nhân AI đưa ra quyết định theo cùng một cách: chúng cân nhắc các lựa chọn, chọn phương án đạt điểm cao nhất theo một phép tính giá trị kỳ vọng nào đó, rồi tiếp tục. Điều này hoạt động tốt cho đến khi lựa chọn "tốt nhất" hóa ra lại là một thảm họa mà một lựa chọn kém tối ưu hơn một chút có thể đã tránh được. Một bài báo tháng 6/2026 có tên "Kiến trúc Hối tiếc Tiềm năng" (Prospective Regret Architecture - PRA) lập luận rằng các tác nhân AI đang thiếu một điều mà con người sử dụng liên tục mà không cần suy nghĩ: khả năng hình dung mức độ tồi tệ của một lựa chọn trước khi đưa ra, chứ không phải chỉ sau đó. Dưới đây là những gì bài báo thực sự đề xuất, tại sao nó quan trọng và những điểm còn chưa chắc chắn. Vấn đề với việc "chỉ tối đa hóa giá trị kỳ vọng" Giả sử một tác nhân AI phải chọn giữa hai cách để viết một đoạn mã. Lựa chọn A ngắn gọn và thông minh nhưng có thể gặp lỗi ở một trường hợp biên (edge case) mà không ai kiểm tra. Lựa chọn B dài hơn và nhàm chán nhưng xử lý mọi thứ. Một tác nhân tiêu chuẩn sẽ chấm điểm từng lựa chọn, chọn số cao hơn và triển khai. Nếu Lựa chọn A gặp sự cố trong quá trình sản xuất, tác nhân không có cảm nhận nội tại rằng loại lỗi cụ thể này – âm thầm, khó gỡ lỗi, tốn kém để khắc phục – đáng để tránh ngay cả với một chi phí nhỏ cho sự tinh tế. Con người không quyết định theo cách này. Trước khi chọn, chúng ta thực hiện một mô phỏng tinh thần nhanh chóng: nếu tôi chọn phương án rủi ro và nó gặp trục trặc, tôi sẽ cảm thấy tồi tệ đến mức nào, khi biết rằng tôi có thể đã chọn phương án an toàn hơn? Sự dự đoán đó thay đổi những gì chúng ta chọn, chứ không chỉ cách chúng ta cảm nhận về nó sau này. Các nhà kinh tế học hành vi Loomes và Sugden, và riêng Bell, đã chính thức hóa điều này vào năm 1982 dưới dạng lý thuyết hối tiếc – một giải pháp thay thế cho tư duy tiện ích kỳ vọng đơn thuần. Đề xuất của PRA rất đơn giản: tích hợp sự dự đoán đó vào vòng lặp quyết định của tác nhân, không phải như một suy nghĩ sau, mà như một bước xảy ra trước khi hành động được thực hiện. Cỗ máy bốn phần Bài báo chia ý tưởng thành bốn mô-đun hoạt động cùng nhau trong một vòng lặp: 1. Bộ tạo kết quả đối lập (Counterfactual Outcome Generator). Trước khi hành động, tác nhân hình dung điều gì có thể xảy ra đối với mỗi lựa chọn mà nó đang cân nhắc – không chỉ lựa chọn mà nó đang nghiêng về. Trên thực tế, điều này có nghĩa là nhắc mô hình mô tả một kết quả có khả năng xảy ra cho mọi hành động ứng cử viên, cùng với mức độ tự tin của nó vào phỏng đoán đó. 2. Bộ mô phỏng hối tiếc tiềm năng (Prospective Regret Simulator). Đây là điểm thú vị. Đối với mỗi cặp lựa chọn, tác nhân so sánh chúng: nếu tôi chọn A và B lẽ ra sẽ tốt hơn, tôi sẽ tệ hơn bao nhiêu? Sự so sánh đó được cân nhắc bởi mức độ tương tự của hai lựa chọn và mức độ gần đây một điều gì đó tương tự đã xảy ra. Các lựa chọn thay thế tương tự mà là những quyết định sát sao tạo ra sự hối tiếc "nổi bật" hơn so với các lựa chọn chưa bao giờ thực sự được xem xét. 3. Quy tắc quyết định có trọng số hối tiếc (Regret-Weighted Decision Rule). Tác nhân không chỉ chọn lựa chọn có lợi nhuận kỳ vọng cao nhất. Nó trừ đi một hình phạt tỷ lệ với mức độ hối tiếc mà lựa chọn đó có khả năng tạo ra. Một núm điều chỉnh (bài báo gọi là λ, sự ác cảm với hối tiếc) kiểm soát mức độ thận trọng của tác nhân. Tăng nó lên, và tác nhân hoạt động gần như thể nó đang cố gắng giảm thiểu sự hối tiếc trong trường hợp xấu nhất thay vì tối đa hóa kết quả trung bình của nó. Đặt nó về 0, và bạn quay lại lý luận giá trị kỳ vọng tiêu chuẩn. 4. Bộ hiệu chỉnh hậu kỳ (Post-Hoc Calibrator). Sau khi hành động diễn ra, tác nhân kiểm tra mức độ hối tiếc mà nó thực sự nên cảm thấy so với mức độ nó đã dự đoán. Nếu nó đánh giá thấp rủi ro, núm điều chỉnh sự ác cảm với hối tiếc của nó sẽ nhích lên cho lần sau. Nếu nó đánh giá quá cao, núm điều chỉnh sẽ nới lỏng. Tín dụng: Tác giả & GPT Image 2.0 Tự mình trải nghiệm: phiên bản không cần mã Việc triển khai "Lớp 1" của bài báo chỉ là một lời nhắc. Không có quy trình, không có mô hình chấm điểm — bạn có thể dán nội dung này vào Claude, ChatGPT hoặc một lời nhắc hệ thống cho một tác nhân ngay hôm nay và quan sát sự thay đổi trong lập luận: Bạn sắp thực hiện một hành động. Trước khi cam kết, hãy xem xét kỹ điều này: Thực hiện điều đó vào lời nhắc hệ thống của một tác nhân mã hóa trước khi tái cấu trúc rủi ro, hoặc vào bước xem xét kiểm duyệt nội dung, và bạn thường sẽ thấy nó từ chối tùy chọn "thông minh" để ủng hộ tùy chọn nhàm chán, có thể đảo ngược – đó chính xác là hành vi mà bài báo hướng tới. **Nơi điều này thực sự hữu ích** Bài báo đi sâu vào ba lĩnh vực mà kiểu tư duy này sẽ thay đổi hành vi của tác nhân trong thực tế. **Tạo mã.** Không phải lỗi nào cũng giống nhau. Một lỗi chính tả khiến kiểm tra biên dịch thất bại thì gây khó chịu. Một lỗi logic tinh vi âm thầm làm hỏng dữ liệu trong môi trường sản xuất là một loại vấn đề hoàn toàn khác. So sánh sự hối tiếc của PRA cho phép một tác nhân xử lý các chế độ lỗi đó khác nhau – ưu tiên triển khai nhàm chán, minh bạch hơn là triển khai thông minh khi nhược điểm của việc mắc lỗi là không đối xứng. **Kiểm duyệt nội dung.** Đây là vấn đề chi phí không đối xứng cổ điển: loại bỏ nhầm một thứ vô hại và để lại nhầm một thứ có hại đều là sai lầm, nhưng chúng không giống nhau, và các nền tảng không muốn xử lý chúng giống nhau. Nút điều chỉnh tránh hối tiếc cung cấp cho bạn một mặt số rõ ràng cho sự đánh đổi đó thay vì chôn vùi nó bên trong một ngưỡng hộp đen. **Lựa chọn công cụ.** Khi một tác nhân quyết định công cụ nào sẽ gọi giữa nhiệm vụ, nó ngầm quyết định công cụ nào sẽ không gọi. PRA yêu cầu tác nhân cân nhắc rõ ràng chi phí bỏ qua một công cụ lẽ ra đã giải quyết được vấn đề so với chi phí sử dụng một công cụ.