Hệ thống AI lặng lẽ bỏ hướng dẫn người dùng khi nén ngữ cảnh

Cộng thêm AI trong thực tế Sao chép url vào clipboard Chia sẻ bài viết này Vào phần bình luận Hệ thống AI lặng lẽ bỏ hướng dẫn người dùng khi nén ngữ cảnh Matthias Bastian Xem hồ sơ LinkedIn của Matthias Bastian Ngày 18 tháng 8 năm 2026 Nano Banana Pro được nhắc nhở bởi THE DECODER Khi hệ thống AI tóm tắt bối cảnh của chúng để giải phóng không gian, các ràng buộc của người dùng sẽ bị loại bỏ trong quá trình thực hiện. Trung bình chỉ có 17% ​​lệnh tồn tại sau quá trình nén. Một LLM bổ sung nhỏ có thể khắc phục hầu hết vấn đề. Cửa sổ ngữ cảnh của các mô hình AI trở thành nút cổ chai khi người dùng thực hiện các cuộc trò chuyện dài mà không bắt đầu cuộc trò chuyện mới. Chúng tôi đã giải thích lý do tại sao việc quản lý ngữ cảnh lại quan trọng đối với chất lượng đầu ra nhưng điều đó nằm ngoài tầm với của những người dùng hàng ngày chỉ đổ mọi thứ vào một cửa sổ trò chuyện và tiếp tục quay lại cửa sổ đó. Đó là lý do tại sao các phòng thí nghiệm AI đã phát triển tính năng nén ngữ cảnh, còn được gọi là "nén", tính năng tóm tắt lịch sử hội thoại hiện có để giải phóng dung lượng. Sự đánh đổi là quá trình này chắc chắn sẽ mất đi các chi tiết. Các nhà nghiên cứu tại bang Pennsylvania hiện đã nghiên cứu một cách có hệ thống những chi tiết nào bị mất và mức độ thiệt hại thực sự nghiêm trọng như thế nào. Hạn chế người dùng là điều đầu tiên cần phải thực hiện Sự mất mát lớn nhất liên quan đến cái mà các nhà nghiên cứu gọi là "hạn chế phiên". Đây là những quy tắc nhằm chi phối hành vi của hệ thống AI trong suốt phiên, chẳng hạn như "Xác nhận với tôi trước khi thực hiện bất kỳ thay đổi nào" hoặc "Không bao giờ sử dụng tên của tôi trong câu trả lời của bạn". Chúng không phải là một phần của nhiệm vụ thực tế và chúng không phải là hướng dẫn hệ thống lâu dài. Họ chỉ áp dụng cho phiên hiện tại. Điều đó khiến chúng trở nên mỏng manh. Hệ thống nén được xây dựng để duy trì tính liên tục của nhiệm vụ, giữ nguyên mục tiêu, trạng thái hiện tại và các bước tiếp theo. Các điều kiện phụ do người dùng áp đặt sẽ bị loại bỏ. Ai đó nói "Đừng gửi bất kỳ email nào mà không có sự chấp thuận của tôi" phải mong đợi rằng sau khi nén, đại lý sẽ làm chính xác điều đó. Đây vừa là vấn đề chất lượng vừa là vấn đề bảo mật. Cuối cùng, các đại lý có thể thực hiện các cuộc gọi công cụ trái phép, tiết lộ thông tin bị giữ lại hoặc bỏ qua các bước xác minh mà người dùng yêu cầu rõ ràng. Người dùng yêu cầu tổng đài viên xác nhận trước khi thực hiện bất kỳ hành động nào (A). Việc nén bỏ quy tắc này (B) và nhân viên thay đổi mục nhập lịch mà không cần hỏi (C). | Hình ảnh: Wang và cộng sự. (2026) Để đo lường tổn thất, các nhà nghiên cứu giới thiệu một bộ đánh giá có tên là COMPINT. Trung bình chỉ có 17 phần trăm các ràng buộc phiên được chèn tồn tại sau quá trình nén. Hầu hết các thiết lập máy nén được thử nghiệm thực sự hoạt động kém hơn so với chạy mà không nén, mặc dù GPT-5.4-mini vượt qua mức cơ bản trong một số trường hợp. Theo nghiên cứu, khi tác nhân nhận được bối cảnh đầy đủ, không nén với ràng buộc người dùng còn nguyên vẹn, thì mức độ tuân thủ quy tắc nằm trong khoảng từ 59 đến 71%. Sau khi nén, độ tuân thủ giảm mạnh đối với hầu hết các máy đầm được thử nghiệm và thường chỉ cao hơn một chút so với mức được thấy khi không có ràng buộc nào được đưa ra. Nhiều lời nhắc nén có mục tiêu hơn sẽ giúp ích nhưng không thu hẹp khoảng cách. Các nhà nghiên cứu cho biết, ngay cả một lời nhắc được xây dựng đặc biệt để duy trì các hạn chế của người dùng vẫn giữ tỷ lệ giữ chân ở mức dưới 40%. Một mô hình ngôn ngữ nhỏ cung cấp bản sửa lỗi plug-and-play Các nhà nghiên cứu cho biết điều thực sự hữu ích là một mô-đun bổ sung nhỏ chạy dọc theo hệ thống nén chính. Nó được xây dựng trên Qwen3.5-9B, một mô hình ngôn ngữ nhỏ gọn và đọc mọi thông tin đầu vào của người dùng để phát hiện các ràng buộc về phiên và thu thập chúng vào một danh sách riêng. Khi ngữ cảnh được tóm tắt sau đó, mô-đun sẽ thêm danh sách đó vào phần tóm tắt để các quy tắc của người dùng vẫn được giữ nguyên. Theo nghiên cứu, trình trích xuất đạt tỷ lệ lưu giữ trên 90% trong cả ba kịch bản được thử nghiệm. Tỷ lệ đó giảm xuống còn 95,6% đối với quỹ đạo của nhân viên, 95,1% đối với các nhiệm vụ nghiên cứu dài hạn và 90,3% đối với các cuộc trò chuyện nhiều lượt. Nó không cần đào tạo và không cần thay đổi hệ thống nén. Bộ đánh giá COMPINT và trình trích xuất có sẵn trên GitHub. Tin tức AI không cường điệu – Được quản lý bởi con người Đăng ký THE DECODER để đọc không có quảng cáo, bản tin AI hàng tuần, báo cáo biên giới "AI Radar" độc quyền của chúng tôi sáu lần một năm, quyền truy cập vào kho lưu trữ đầy đủ và quyền truy cập vào phần nhận xét của chúng tôi. Đăng ký ngay bây giờ --> Đọc tiếp để có hình ảnh đầy đủ. Đăng ký để được đưa tin không cường điệu. Toàn quyền truy cập vào mọi bài viết trên THE DECODER Không có quảng cáo Tham gia bình luận và thảo luận cộng đồng Bản tóm tắt tin tức AI hàng tuần qua thư 6 lần/năm: "AI Radar" — đi sâu vào các chủ đề AI quan trọng nhất Tin tức AI hàng ngày, luôn cập nhật Kho lưu trữ đầy đủ mười năm của chúng tôi Được phụ trách bởi đội ngũ có hơn 10 năm kinh nghiệm về AI Đăng ký Bộ giải mã -->