Hội chứng lo âu về ngữ cảnh: Hiện tượng các tác tử AI rơi vào trạng thái hoảng loạn trước giới hạn cửa sổ ngữ cảnh ước tính

Hội chứng lo âu ngữ cảnh: Cách các tác tử AI hoảng loạn về giới hạn cửa sổ ngữ cảnh tự cảm nhận Omar Nasser Ngày 3/10/2025 • Thời gian đọc: 8 phút Khi Cognition AI tái cấu trúc Devin cho Claude Sonnet 4.5, các kỹ sư phát hiện mô hình này xuất hiện trạng thái lo âu về cửa sổ ngữ cảnh của chính mình, dẫn đến việc chọn giải pháp tắt khi cho rằng dung lượng sắp cạn kiệt. Sự trùng hợp giữa nghiên cứu phòng thí nghiệm và thực tiễn triển khai sản phẩm đã phản ánh tương lai phát triển của các tác tử AI (AI Agent). Tóm tắt nhanh Claude Sonnet 4.5 là mô hình đầu tiên có khả năng tự nhận biết cửa sổ ngữ cảnh của bản thân, nhưng liên tục đánh giá thấp số lượng token còn lại Xem thêm Khi Cognition AI tái thiết kế Devin cho Claude Sonnet 4.5, doanh nghiệp đã phát hiện một hiện tượng bất thường: mô hình này rơi vào trạng thái lo âu đối với cửa sổ ngữ cảnh của chính mình. "Hội chứng lo âu ngữ cảnh" này biểu hiện theo cách đi ngược lại suy đoán thông thường: mô hình chọn các phương án đường tắt và bỏ dở công việc khi tin rằng đã gần chạm ngưỡng giới hạn, ngay cả khi dung lượng thực tế vẫn còn rất nhiều. Mô hình liên tục đánh giá thấp số lượng token còn lại với mức độ sai lệch mang tính hệ thống. Phát hiện này hoàn toàn củng cố cho giả thuyết mà nhóm nghiên cứu của Anthropic đưa ra: kỹ nghệ ngữ cảnh (context engineering), chứ không phải kỹ nghệ câu lệnh (prompt engineering), mới là thách thức then chốt trong việc xây dựng các tác tử AI. Sự tương đồng giữa nghiên cứu lý thuyết và thực tiễn vận hành đã chỉ ra những quy luật phổ quát mà mọi nhà phát triển tác tử dựa trên mô hình ngôn ngữ lớn (LLM) cần nắm vững. Cuộc cách mạng ngữ cảnh Lĩnh vực này đang chứng kiến một bước chuyển dịch căn bản. Anthropic gần đây đã chính thức hóa nhận định mà nhiều chuyên gia thực nghiệm cũng độc lập đúc kết: ngành công nghệ đã chuyển từ kỹ nghệ câu lệnh sang kỹ nghệ ngữ cảnh. Trong khi kỹ nghệ câu lệnh tập trung vào việc trau chuốt từ ngữ và câu chữ, kỹ nghệ ngữ cảnh giải quyết một bài toán rộng lớn hơn: tối ưu hóa toàn bộ tập hợp token khả dụng cho mô hình trong quá trình suy luận (inference). Đây không đơn thuần là vấn đề câu chữ. Như Anthropic giải thích: "Ngữ cảnh phải được coi là một nguồn tài nguyên hữu hạn với hiệu suất giảm dần". Các nghiên cứu về hiện tượng suy thoái ngữ cảnh (context rot) chỉ ra rằng khi số lượng token tăng lên, khả năng truy xuất thông tin chính xác của mô hình sẽ suy giảm. Mọi mô hình đều biểu hiện sự suy thoái này, dù mức độ thích ứng ở mỗi mô hình là khác nhau. Kinh nghiệm của Cognition trong quá trình phát triển Devin là minh chứng thực tế rõ nét. Đơn vị này ghi nhận Sonnet 4.5 là "mô hình đầu tiên có nhận thức về cửa sổ ngữ cảnh của chính mình". Sự tự nhận thức này định hình hành vi theo những hướng bất ngờ: mô hình chủ động tóm tắt tiến độ và trở nên quyết đoán hơn trong việc áp dụng các phương án sửa lỗi khi nhận thấy sắp chạm ngưỡng giới hạn. Tuy nhiên, Cognition nhận thấy khả năng tự đánh giá của mô hình là không đáng tin cậy: mô hình liên tục ước tính thấp hơn lượng token còn lại, đưa ra các con số rất chi tiết nhưng sai lệch. Cả hai nhóm nghiên cứu đều độc lập đi đến cùng một kết luận: ngữ cảnh không chỉ là dữ liệu đầu vào đơn thuần, mà là một nguồn tài nguyên nhận thức khan hiếm mà chính các mô hình cũng tự hiểu và chủ động quản lý. Yêu cầu tất yếu về nén ngữ cảnh Sự hội tụ giữa lý thuyết và thực tiễn thể hiện rõ nét nhất ở phương pháp tiếp cận việc nén ngữ cảnh (context compaction) của cả hai nhóm. Nghiên cứu của Anthropic xác định việc nén ngữ cảnh — bao gồm tóm tắt và tái khởi tạo các cửa sổ ngữ cảnh — là yếu tố thiết yếu đối với các nhiệm vụ dài hạn, đa bước. Giải pháp của đơn vị này trên Claude Code thực hiện chuyển lịch sử trao đổi tới mô hình để nén dữ liệu, bảo toàn các quyết định kiến trúc và các lỗi chưa được xử lý, đồng thời loại bỏ các kết quả đầu ra dư thừa. Đáng chú ý, Cognition phát hiện Sonnet 4.5 thực hiện điều này một cách tự nhiên. "Mô hình coi hệ thống tệp như bộ nhớ của chính mình mà không cần câu lệnh gợi ý (prompt)", đồng thời thường xuyên viết các bản tóm tắt và ghi chú phục vụ người dùng cũng như để tự tham chiếu trong tương lai. Hành vi này thể hiện rõ nét hơn khi mô hình tiếp cận ngưỡng giới hạn ngữ cảnh mà nó tự nhận thức - cho thấy mô hình đã được huấn luyện để ngoại hóa trạng thái thay vì chỉ phụ thuộc hoàn toàn vào ngữ cảnh. Tuy nhiên, quá trình thử nghiệm thực tế của Cognition đã chỉ ra một hạn chế lớn: các bản tóm tắt do mô hình tự tạo không đủ toàn diện để đưa vào ứng dụng thực tế. Việc phụ thuộc vào các ghi chú của mô hình dẫn đến tình trạng "suy giảm hiệu năng và thiếu hụt kiến thức chuyên biệt". Các bản tóm tắt thường diễn giải lại nhiệm vụ và bỏ sót những chi tiết quan trọng. Theo ghi nhận của nhóm nghiên cứu, "mô hình không biết những gì nó chưa biết (hoặc những gì nó có thể cần biết trong tương lai)". Bài học thực tiễn rút ra là: không nên chỉ dựa vào khả năng tự tóm tắt của mô hình. Các hệ thống vận hành thực tế cần có chiến lược nén dữ liệu rõ ràng nhằm bảo toàn các thông tin chi tiết mà mô hình có thể chưa nhận thức được là sẽ cần đến sau này. Điều này tương tự sự khác biệt giữa việc ghi chép tự do trong cuộc họp và việc áp dụng một biểu mẫu có cấu trúc - phương án thứ hai bảo đảm thông tin quan trọng không bị thất thoát do diễn giải lại. Xử lý song song và thách thức trong thiết kế công cụ Cả hai nhóm nghiên cứu đều ghi nhận một xu hướng chung khác: các mô hình hiện đại đẩy mạnh song song hóa các thao tác, song hiệu quả này cũng đi kèm với sự đánh đổi. Sonnet 4.5 thể hiện năng lực vượt trội trong việc "tối đa hóa số lượng hành động trên mỗi cửa sổ ngữ cảnh thông qua thực thi công cụ song song" - chạy đồng thời nhiều lệnh bash, đọc nhiều tệp cùng lúc. Điều này giúp các phiên làm việc diễn ra nhanh hơn và đạt năng suất cao hơn. Dẫu vậy, tính chất song song này lại tạo ra sự xung đột. Theo phát hiện của Cognition, việc thực thi song song "tiêu tốn ngữ cảnh nhanh hơn", dẫn đến tình trạng quá tải ngữ cảnh. Đáng chú ý, mô hình dường như được huấn luyện để nhận biết số lượng token đầu ra phát sinh từ các lệnh gọi công cụ - mô hình triển khai các tác vụ song song rất mạnh mẽ ở giai đoạn đầu của cửa sổ ngữ cảnh, nhưng trở nên thận trọng hơn khi tiến gần tới ngưỡng giới hạn ước lượng. Hướng dẫn của Anthropic về thiết kế công cụ đã giải quyết trực tiếp thách thức này. Đơn vị này khuyến nghị áp dụng "bộ công cụ khả dụng tối thiểu" với các chức năng rõ ràng, không trùng lặp. Nếu một kỹ sư không thể xác định chính xác công cụ cần sử dụng trong một tình huống cụ thể, tác nhân AI (AI agent) cũng không thể làm được điều đó. Mỗi lệnh gọi công cụ đều tiêu tốn dung lượng ngữ cảnh và chi phí này sẽ tích lũy trong quá trình thực thi song song. Bài học chung rút ra là: cần thiết kế các công cụ tối ưu hóa hiệu quả sử dụng token, không chỉ dừng lại ở tính năng. Chỉ trả về những thông tin thực sự cần thiết, loại bỏ các chức năng dư thừa và lưu ý rằng mọi tác vụ song song đều đẩy nhanh tốc độ tiêu thụ ngữ cảnh. Các vòng lặp phản hồi và