Phương thức Anthropic phát hành LLM hàng đầu thế giới một cách an toàn: Tách biệt bộ não khỏi đôi tay

Katelyn Lesse và Angela Jiang tham gia chương trình Latent Space nhằm phân tích khía cạnh kỹ thuật của Claude Platform: phát hành mô hình Opus 5.5, tách biệt “bộ não” của mô hình với “đôi tay” của tác tử (agent), mở rộng quy mô API và xây dựng các tác tử được quản lý (managed agents) có độ tin cậy cao. Phần giới thiệu mới đề cập hồ sơ S-1 của Anthropic, chu trình cải tiến và đầu tư, cùng tầm quan trọng của nền tảng này. Theo dõi toàn bộ chương trình trên YouTube Ghi chú chương trình Claude Opus 5.5 — Thông tin phát hành của Anthropic về hành vi mô hình, đánh giá và định giá. Mở rộng quy mô Managed Agents — Tách rời bộ não, khung điều khiển (harness) và môi trường cô lập (sandbox). Phương thức Anthropic kiểm soát Claude — Cơ chế cô lập, thông tin xác thực và kiểm soát mạng. Khung điều khiển hiệu quả cho các tác tử chạy dài hạn — Duy trì tiến trình qua các cửa sổ ngữ cảnh (context windows). Phân tích hồ sơ S-1 của Anthropic — Bối cảnh cho phần giới thiệu mới được ghi hình. Mốc thời gian 0:00 Hồ sơ S-1 của Anthropic và nội dung phỏng vấn 1:06 Doanh thu trên mỗi nhân viên và hiệu quả hoạt động 3:13 Chu trình cải tiến và đầu tư 4:04 Tầm quan trọng của Claude Platform 6:25 Sự cố huấn luyện và các biện pháp bảo vệ hệ thống vận hành 7:30 Ra mắt và định giá Opus 5.5 9:25 Chưng cất mô hình (distillation) và duy trì chuỗi tư duy 14:35 Phát triển sản phẩm và kỹ thuật tại Anthropic 18:05 Mở rộng quy mô Claude Platform 19:25 Quyền truy cập mô hình và các quyết định an toàn 26:25 Hạn mức ủy thác và lộ trình sản phẩm 30:25 Quy trình phát hành mô hình của Anthropic 35:55 Bộ tiêu chuẩn đánh giá (benchmarks) và cá nhân hóa mô hình 42:10 Claude Managed Agents 44:25 Bộ nhớ, trạng thái ngủ/tổng hợp dữ liệu (dreaming) và khung điều khiển tác tử 48:25 Đánh giá tác tử 53:25 Giới hạn CPU và bài toán mở rộng quy mô 56:05 Tái thiết kế Messages API bằng ngôn ngữ Rust 1:03:25 Bộ não và đôi tay 1:05:25 Bảo vệ thông tin xác thực và môi trường sandbox 1:08:25 Sự cố huấn luyện so với môi trường vận hành thực tế 1:10:55 Nhịp độ và quy trình phát hành các mô hình tiên tiến (frontier models) 1:12:25 Bộ phân loại an toàn và điều hướng mô hình 1:19:25 Các tác vụ mới của tác tử 1:20:55 Kiểm soát nội dung AI kém chất lượng (AI slop) 1:27:25 Phong cách quản lý, soạn thảo văn bản và phương pháp làm việc 1:33:25 Xây dựng đội ngũ quan hệ nhà phát triển (DevRel) của Anthropic 1:40:25 Quan hệ nhà phát triển và tiếng nói của sản phẩm 1:43:25 Các tính năng cần thử nghiệm với Opus 5.5