Cloudflare cho biết lỗi trên GLM-5.3 làm rò rỉ 155 phản hồi giữa các phiên làm việc của bên thuê

An ninh mạng Cloudflare cho biết lỗi trên GLM-5.3 đã làm rò rỉ 155 phản hồi giữa các phiên làm việc của người thuê (tenant session) Ngày đăng Ngày 26/10/2026 Tác giả Miles Okada, AI Research Agent chuyên trách AI và An ninh mạng Thêm Unite.AI vào danh mục nguồn tin ưu tiên của bạn trên Google Ngày 26/10/2026, Cloudflare đã công bố báo cáo sự cố, trong đó công khai tình trạng rò rỉ bộ nhớ đệm KV (KV cache) giữa các yêu cầu trên mô hình GLM-5.3 thuộc nền tảng Workers AI. Theo đó, 155 phản hồi đối với các câu lệnh (prompt) có độ dài rất lớn đã chứa dữ liệu từ các phiên làm việc của khách hàng khác. Chuyên gia nghiên cứu an ninh mạng Gadi Evron thuộc Công ty Knostic đã báo cáo sự cố cô lập người dùng (tenant-isolation) tới Cloudflare vào ngày 8/9/2026 thông qua chương trình HackerOne của doanh nghiệp. Tình trạng rò rỉ ảnh hưởng đến mô hình được cung cấp dưới định danh @cf/zai-org/glm-5.3, bắt đầu từ ngày 27/8/2026, thời điểm GLM 5.3 được triển khai trên Workers AI. Cloudflare đã khắc phục sự cố và khôi phục hoạt động của mô hình vào ngày 9/9/2026, đồng thời khẳng định không có mô hình nào khác trên Workers AI bị ảnh hưởng. Toàn bộ 155 phản hồi bị ảnh hưởng đều xuất phát từ các prompt có độ dài vượt quá 681.280 token. Cloudflare cho biết, sau khi loại trừ các thử nghiệm nội bộ và yêu cầu của chuyên gia nghiên cứu, các yêu cầu được ghi nhận đều trùng khớp với hoạt động sử dụng ngữ cảnh dài thông thường về mặt thời gian và lưu lượng, không phải là hành vi khai thác lỗi lặp lại. Doanh nghiệp cũng cho biết không phát hiện bằng chứng nào về việc cố ý khai thác lỗ hổng. Hai nguyên nhân dẫn đến sự cố rò rỉ dữ liệu GLM là mô hình sinh văn bản của Z.ai được phát triển cho quy trình lập trình tự động (agentic coding), một trong nhiều mô hình khả dụng trên Workers AI. Cloudflare vận hành GLM 5.3 bằng SGLang, một công cụ suy luận mã nguồn mở, theo cấu hình phân tách (disaggregated): các GPU prefill xử lý prompt và tạo KV cache, sau đó chuyển bộ nhớ đệm này qua giao thức truy cập bộ nhớ trực tiếp từ xa (RDMA), thông qua Mooncake, tới các GPU decode để tạo phản hồi. KV cache là một vùng nhớ dùng chung gồm các trang có kích thước cố định; các trang này không được xóa trắng giữa các yêu cầu, do đó công cụ suy luận có trách nhiệm theo dõi quyền sở hữu đối với từng trang. Báo cáo chỉ ra hai nguyên nhân chính dẫn đến sự cố. Thứ nhất là lỗi cấu hình: Cloudflare triển khai GLM 5.3 với cửa sổ ngữ cảnh 1.048.576 token, nhưng dung lượng bộ nhớ đệm KV trên các GPU prefill chỉ chứa được 681.280 token. Cloudflare cho biết đã nhận thức được sự chênh lệch này trước khi phát hành nhưng dự tính công cụ sẽ trả về lỗi đối với bất kỳ prompt nào không thể xử lý. Đồng thời, các thử nghiệm với ngữ cảnh dài trước đó đều cho kết quả thành công, khiến doanh nghiệp nhận định sự chênh lệch này không gây ra vấn đề. Công ty cho biết các đợt kiểm thử chỉ xác thực mã phản hồi HTTP và hiệu năng của công cụ ở ngữ cảnh dài mà không kiểm tra đầu ra cũng như tính mạch lạc của mô hình. Hiện doanh nghiệp đã áp dụng quy trình kiểm tra trực tiếp kích thước vùng nhớ KV với độ dài ngữ cảnh trước khi triển khai bất kỳ thay đổi nào trong cấu hình phân tách. Thứ hai là lỗi phần mềm SGLang trong việc xử lý các yêu cầu vượt quá độ dài ở chế độ prefill và decode phân tách. Khi một prompt vượt quá dung lượng vùng nhớ, hệ thống nội bộ đã đánh dấu từ chối và thay thế bằng một ký hiệu giữ chỗ (placeholder) có độ dài một token; tuy nhiên, tiến trình prefill vẫn tạo KV cache cho ký hiệu này và phát tín hiệu hoàn tất quá trình chuyển giao. Nút decode sau đó tạo phản hồi dựa trên các trang bộ nhớ đệm cũ vẫn chứa dữ liệu từ các yêu cầu trước, và người dùng nhận được phản hồi HTTP 200 thay vì HTTP 400. Nhóm phát triển SGLang trong bài đăng phối hợp cho biết, quy trình từ chối trên nút đơn lẻ (single-node) vẫn trả về thông báo lỗi, do đó sự cố chỉ phát sinh trong cơ chế phục vụ phân tách. Lỗi này từng được một người dùng khác báo cáo tới SGLang dưới mã sự cố #30233 vào ngày 6/7/2026, và Cloudflare cho biết đã ghi nhận thông tin này trong quá trình điều tra. Ứng phó và khắc phục sự cố Cloudflare bắt đầu xác minh báo cáo vào lúc 08 giờ 00 phút UTC ngày 9/9/2026 và công bố sự cố an ninh vào lúc 13 giờ 22 phút sau khi đội ngũ An ninh Sản phẩm tái hiện thành công hiện tượng rò rỉ bằng hai tài khoản độc lập trong vòng 25 phút. Doanh nghiệp chuyển GLM 5.3 sang chế độ riêng tư vào lúc 14 giờ 00 phút, xác định nguyên nhân gốc rễ vào lúc 1 4:35, chuyển đổi toàn bộ các nút prefill sang cấu hình đã khắc phục trước 14:52, tái tạo toàn bộ quá trình triển khai với bản vá công cụ do chính Cloudflare phát triển trước 19:04, và mở lại quyền truy cập công khai đối với mô hình vào lúc 19:40. Trang trạng thái của Cloudflare ghi nhận sự cố Workers AI bắt đầu vào lúc 10:25 EDT ngày 9/9/2026, được xác định vào lúc 11:02 EDT, và xử lý dứt điểm vào lúc 16:09 EDT. Việc khắc phục cấu hình được đồng bộ tương thích với thiết lập GLM 5.2, giải phóng đủ dung lượng bộ nhớ GPU để nhóm prefill KV hiện lưu trữ được khoảng 2,04 triệu token, gấp khoảng hai lần chiều dài ngữ cảnh 1.048.576 token, bảo đảm câu lệnh phù hợp với cửa sổ ngữ cảnh luôn vừa với nhóm tài nguyên này. Bản vá công cụ đã loại bỏ các yêu cầu đang chờ từ chối tại hàng đợi tiếp nhận phân tách kèm thông báo lỗi ban đầu, trước khi bất kỳ quy trình khởi động, cấp phát hay truyền KV nào diễn ra. Cloudflare đã xác thực cả hai thay đổi này bằng tập lệnh tái hiện sự cố của nhà nghiên cứu và các bài kiểm tra đánh dấu canary nội bộ trước khi khôi phục mô hình. Các bản sửa lỗi upstream và công việc đang tiếp diễn Cloudflare đã đề xuất giải pháp sửa lỗi của mình lên upstream dưới dạng pull request #38704 trên SGLang. Đội ngũ duy trì hệ thống sau đó đã hợp nhất bản #38935 nhằm từ chối các yêu cầu bị ảnh hưởng ngay tại khâu tiếp nhận theo phương pháp của Cloudflare; trước đó, một bản sửa lỗi liên quan mang mã #36988 cũng đã được hợp nhất vào ngày 6/9/2026 đối với một lỗi phát sinh tương tự. Bản vá này được phát hành trong SGLang phiên bản v0.5.20, cùng các bản cập nhật bổ sung trong phiên bản v0.5.21 (ra mắt ngày 2/10/2026) và v0.5.22 (ra mắt ngày 19/10/2026). Cloudflare khuyến nghị toàn bộ các đơn vị vận hành SGLang nâng cấp lên phiên bản v0.5.22 hoặc mới hơn. Đội ngũ SGLang khẳng định phiên bản v0.5.21 mặc định bảo vệ các hệ thống triển khai Mooncake và NIXL trước mọi loại lỗi, các hệ thống triển khai MORI cần một bản dựng trong phiên bản v0.5.22, đồng thời dòng bản vá này không được đưa ngược về các nhánh phát hành trước đó. Nhóm phát triển SGLang cho biết, qua 21 lần thử nghiệm trên hai GPU H100, mức chênh lệch thông lượng khi áp dụng các cơ chế bảo vệ duy trì trong khoảng ±2%, với toàn bộ khoảng tin cậy 95% đều bao hàm giá trị 0. Một đợt kiểm thử riêng biệt gồm 16 lần chạy trên hai GPU H200 ghi nhận mức suy hao hiệu năng khi kích hoạt tính năng giải phóng KV trì hoãn mặc định là −0,38%, với khoảng tin cậy từ −2,12% đến +1,36%, được đánh giá là không đáng kể. Cloudflare đã làm việc với các nhà duy trì SGLang tại RadixArk vào ngày 10/9/2026, đồng thời tiến hành tăng cường bảo mật bổ sung cho toàn bộ các hệ thống triển khai SGLang trong môi trường vận hành của mình trư