Google Cloud API Gateway bổ sung tính năng hỗ trợ streaming cho các ứng dụng thời gian thực và ứng dụng tích hợp AI

Trang chủ InfoQ Tin tức Google Cloud API Gateway ra mắt tính năng hỗ trợ truyền dữ liệu theo luồng (streaming) cho các ứng dụng thời gian thực và ứng dụng tích hợp AI Điện toán đám mây Google Cloud API Gateway ra mắt tính năng hỗ trợ truyền dữ liệu theo luồng (streaming) cho các ứng dụng thời gian thực và ứng dụng tích hợp AI Ngày 5/11/2026 2 phút đọc Tác giả Sergio De Simone Theo dõi chúng tôi trên YouTube 232.000 người theo dõi LinkedIn 26.000 người theo dõi Instagram Mới RSS 19.000 độc giả X 57.100 người theo dõi Facebook 21.000 lượt thích Bluesky Mới Nghe bài viết này - 0:00 Âm thanh sẵn sàng phát Trình duyệt không hỗ trợ tệp âm thanh này. 0:00 0:00 Bình thường 1,25x 1,5x Thích Danh sách đọc Google vừa công bố bản xem trước công khai (public preview) tính năng hỗ trợ truyền phát trực tuyến (streaming) cho API Gateway. Động thái này giúp mở rộng mô hình yêu cầu - phản hồi (request-response) truyền thống nhằm đáp ứng các ứng dụng đòi hỏi khả năng giao tiếp theo thời gian thực. Theo Google, tính năng này đặc biệt phù hợp với các ứng dụng AI cung cấp phản hồi mô hình dạng chuỗi dữ liệu liên tục, quy trình xử lý tác tử (agent) nhiều bước và các phiên tương tác trực tiếp. Chức năng mới cho phép các điểm cuối (endpoints) truyền phát hoạt động phía sau API Gateway nhưng vẫn duy trì các chính sách cổng hiện có và kiểm soát an ninh, qua đó giải quyết hạn chế trước đây: Cho đến nay, các nhà phát triển khi xây dựng những trải nghiệm này trên API Gateway phải đối mặt với một lựa chọn khó khăn: đặt API Gateway phía trước các API và từ bỏ tính năng streaming, hoặc định tuyến các điểm cuối streaming đi vòng qua cổng và từ bỏ các tính năng xác thực, thực thi khóa API cũng như khả năng giám sát vốn là những yếu tố cốt lõi của cổng này. API Gateway hỗ trợ nhiều mô hình truyền phát, bao gồm Server-Sent Events (SSE), mã hóa truyền tải theo phân đoạn (chunked transfer encoding) và truyền phát phản hồi HTTP, WebSockets cùng gRPC. Các kết nối streaming có thể duy trì hoạt động trong tối đa một giờ; sau khoảng thời gian này, các ứng dụng khách (clients) phải thiết lập kết nối mới nếu cần tiếp tục giao tiếp. Bản phát hành mới tích hợp tính năng hỗ trợ streaming mà không yêu cầu thay đổi các thông số kỹ thuật API hiện tại hoặc sử dụng các API, phần mở rộng hay chú thích chuyên biệt. Google nhấn mạnh rằng toàn bộ cấu hình và tính năng API hiện có vẫn hoạt động bình thường, bao gồm việc thực thi khóa API, xác thực JWT, xác thực tài khoản dịch vụ (service account) đối với các hệ thống backend, tích hợp Cloud Logging và Cloud Monitoring, cũng như định tuyến yêu cầu và mẫu đường dẫn (path templating). Một ưu điểm khác của bản cập nhật này là việc chuẩn hóa các tên máy chủ (hostnames) cho cổng kết nối theo cấu trúc xác định trước. Trước đây, tên máy chủ của cổng kết nối bao gồm một chuỗi băm được tạo ngẫu nhiên và chỉ có thể xác định sau khi cổng đã được khởi tạo. Hiện nay, các tên máy chủ tuân theo định dạng cố định: GATEWAY_ID-PROJECT_NUMBER.REGION.gateway.dev, cho phép các nhà phát triển tham chiếu và cấu hình trước khi tiến hành khởi tạo tài nguyên. Google nhấn mạnh tầm quan trọng của tính năng hỗ trợ streaming đối với các ứng dụng AI, nơi phản hồi từ mô hình được tạo ra theo từng giai đoạn thay vì chuyển giao toàn bộ trong một lần. Thông qua chức năng mới, các nhà phát triển có thể truyền phát phản hồi mô hình theo thời gian thực, cập nhật tiến độ của tác tử trong các tác vụ nhiều bước, hỗ trợ các giao thức gọi công cụ (tool-calling) và kết nối tới các máy chủ MCP từ xa, đồng thời xử lý các ứng dụng AI tương tác. API Gateway cũng hỗ trợ định tuyến mô hình, cung cấp một điểm cuối tương thích với chuẩn OpenAI duy nhất để định tuyến các yêu cầu tới Gemini, Claude hoặc các mô hình gpt-oss của OpenAI dựa trên trường mô hình trong tải trọng yêu cầu (request payload). Định tuyến mô hình kết hợp với tính năng streaming đồng nghĩa với việc các ứng dụng khách sẽ tiếp cận một giao diện streaming quen thuộc, dựa trên tiêu chuẩn chung, trong khi người quản trị vẫn duy trì quyền kiểm soát tập trung đối với các mô hình được phép truy cập, đối tượng truy cập và các chính sách áp dụng kèm theo. Bình luận về thông báo của Google, tài khoản emildrops trên mạng xã hội X đã chỉ ra hai hạn chế quan trọng. Thứ nhất là "các cổng kết nối hiện có không thể chuyển đổi trực tiếp tại chỗ", và thứ hai là "độ trễ đo lường toàn bộ luồng truyền phát thay vì thời gian đến byte đầu tiên... do đó biểu đồ độ trễ sẽ hiển thị bất thường vì những lý do không phải là lỗi phần mềm". Tương tự, tài khoản Ehsan Elahi Zaheer trên mạng xã hội LinkedIn cũng lưu ý: Công tác giám sát cũng cần được lưu ý: các chỉ số đo lường độ trễ yêu cầu tại cổng ghi nhận thời lượng của toàn bộ luồng truyền dữ liệu, không phải thời gian đến byte đầu tiên. Một biểu đồ độ trễ đơn lẻ có thể che khuất những trải nghiệm người dùng rất khác nhau. Trong giai đoạn xem trước, các nhà phát triển phải chủ động kích hoạt chức năng mới bằng cách chỉ định ... cờ dòng lệnh --enable-streaming khi tạo gateway (cổng kết nối). Thông tin tác giả Sergio De Simone Xem thêmThu gọn Đánh giá bài viết này Mức độ ứng dụng Phong cách Đã liên hệ tác giả Nội dung này thuộc chủ đề Cloud Các chủ đề liên quan: Phát triển phần mềm AI, ML & Kỹ thuật dữ liệu Cloud Google Cloud API Gateway Google Streaming Agents Mô hình ngôn ngữ lớn (LLM) Bài viết biên tập liên quan Nhà tài trợ liên quan Phổ biến trên InfoQ File Mover Express: AWS phát hành công cụ nguồn mở phục vụ truyền tải tệp S3 Báo cáo Xu hướng AI, ML và Kỹ thuật dữ liệu năm 2026 của InfoQ Uber xây dựng MCP Gateway nhằm quản trị quyền truy cập hơn 800 máy chủ và hơn 5.000 công cụ tác tử AI Đào tạo kiến trúc sư phần mềm: Cuộc trò chuyện cùng Luca Mezzalira Báo cáo Xu hướng AI, ML và Kỹ thuật dữ liệu InfoQ - 2026 Điểm tin Spring: Các bản phát hành ứng viên đầu tiên của Boot, Framework, Data, Security, Modulith, AI