Tác tử AI chỉ dẫn con người: Ứng dụng tác tử trong các hoạt động tài chính dài hạn

Tại sự kiện AI Engineer New York diễn ra trong tháng này, phóng viên đã có cuộc trao đổi với Aman Singh, Kỹ sư AI trưởng tại Arca, một doanh nghiệp ứng dụng AI toàn diện (AI-native) chuyên cung cấp dịch vụ quản lý tài sản. Ghi nhận thực tế cho thấy, dù các tác tử AI (agents) đảm nhiệm phần lớn công việc nền tảng tại doanh nghiệp, hệ thống vẫn thiết lập các rào chắn kỹ thuật nhằm bảo đảm quyền đưa ra quyết định cuối cùng thuộc về các chuyên viên tư vấn con người. Mục tiêu đặt ra là để AI định hướng quy trình; hoặc như ông Singh khái quát: “các tác tử đưa ra yêu cầu (prompt) cho con người nhiều hơn là con người yêu cầu các tác tử”. Gần đây, Arca đã huy động thành công 48,5 triệu USD trong vòng gọi vốn do General Catalyst dẫn đầu, cùng sự tham gia của Index Ventures và Venrock. Ông Singh giải thích rằng một trong những đặc thù của việc ứng dụng AI trong dịch vụ tài chính là tính chất công việc thường có tầm nhìn dài hạn, dù không diễn ra liên tục. Trong bài thuyết trình tại sự kiện AIE, ông lưu ý các nhiệm vụ của tác tử tại Arca có thể kéo dài tới 10 ngày. Ông cho biết: “Quy trình này thường xuyên gián đoạn và tái khởi động, có nhiều bên tham gia xử lý ở các khâu trung gian, nhiều điểm quyết định và nhiều lần chuyển giao công việc”. Vì lý do này, Arca đã phát triển một hệ thống ghi nhớ nội bộ. “Do đó, chúng tôi duy trì tính liên tục của dữ liệu đối với từng khách hàng”, ông Singh chia sẻ trong chương trình podcast. “Những gì đã diễn ra từ trước đến nay? Tiếp theo cần theo dõi những nội dung gì? Điều gì cần thực hiện ngay trong vài ngày tới và điều gì cần theo dõi trong dài hạn? Cá nhân nào chịu trách nhiệm cho hành động nào? Tất cả đều được theo dõi bởi các hệ thống ghi nhớ của chúng tôi, với sự đóng góp dữ liệu từ các tác tử AI”. Arca sử dụng các mô hình từ các phòng thí nghiệm AI hàng đầu như Anthropic và OpenAI, trong đó Claude là nhà cung cấp mô hình chính. Doanh nghiệp này đã tự xây dựng một khung điều phối (harness) riêng, có khả năng tự động lựa chọn mô hình tối ưu nhất cho từng nhiệm vụ cụ thể dựa trên các bộ tiêu chuẩn đánh giá (benchmark) nội bộ. Việc tự sở hữu khung điều phối thay vì sử dụng dịch vụ quản lý tác tử thuê ngoài cũng giúp Arca linh hoạt thay đổi nhà cung cấp mô hình khi cần thiết. An toàn rõ ràng là yếu tố then chốt đối với các dịch vụ tài chính. Ông Singh nhấn mạnh rằng dù các tác tử xử lý phần lớn công việc, vai trò của chúng chỉ giới hạn ở mức phân tích và đề xuất giải pháp. Hoạt động giao dịch và mọi sự luân chuyển dòng tiền khác đều do chuyên viên tư vấn con người đảm nhiệm. Ông cho biết: “Tất cả các hạn chế an toàn của chúng tôi đều mang tính tất định hoàn toàn, giúp loại bỏ quyền ra quyết định khỏi tay các tác tử AI”. Nói cách khác, tác tử có thể tự thực thi một số công cụ và nhiệm vụ nhất định, ngoại trừ những tác vụ tiềm ẩn rủi ro cho khách hàng. Arca cũng triển khai các quy trình kiểm tra, xác thực đối với các vấn đề an ninh AI đã được nhận diện, chẳng hạn như tấn công chèn lệnh (prompt injection). Bản thân tác tử của Arca không hoạt động trong môi trường cô lập (sandbox), nhưng hệ thống sử dụng các môi trường sandbox cho hoạt động tính toán. Ông Singh giải thích rằng đơn vị đã tiến xa hơn với các biện pháp bảo mật bổ sung nhằm xử lý dữ liệu nhạy cảm. Ông cho biết: “Chúng tôi đã xây dựng các hệ thống bảo đảm an toàn khi mã nguồn bên trong sandbox truy cập vào dữ liệu của doanh nghiệp. Hệ thống sẽ chuyển đổi mã nguồn do tác tử tạo ra thành một định dạng nghiêm ngặt theo chuẩn định trước, sau đó loại bỏ đoạn mã gốc và thiết lập các rào chắn kiểm soát trên định dạng đó trước khi gửi tới hệ thống xử lý trung tâm (back end). Bằng cách này, chúng tôi cho phép các tác tử sử dụng mã để truy vấn dữ liệu, qua đó tổng hợp, xử lý và thao tác dữ liệu một cách phù hợp để lập ra các tài liệu như kế hoạch tài chính”. Một quy trình đáng chú ý khác được Arca triển khai là sử dụng phản hồi từ các chuyên viên tư vấn con người cùng dấu vết hoạt động (traces) của các tác tử để hoàn thiện khung điều phối. Một “tác tử cấp cao” (meta-agent) được sử dụng để phân tích toàn bộ dữ liệu này và đề xuất các điều chỉnh đối với khung điều phối. Mốc thời gian chương trình podcast: 00:00 — Giới thiệu về Arca, công ty quản lý tài sản ứng dụng AI toàn diện 01:40 — Phương thức AI hỗ trợ các chuyên viên tư vấn tài chính 02:40 — Lựa chọn mô hình dựa trên các tiêu chuẩn đánh giá nội bộ 04:01 — Xây dựng khung điều khiển chuyên biệt và điều phối tác vụ 05:25 — Xử lý hóa đơn thuế 100.000 USD: Vai trò của các tác tử và quy trình phê duyệt của con người 07:20 — Cơ chế ghi nhớ của tác tử trong các tác vụ dài hạn 09:22 — Hàng rào an toàn và giải pháp phòng thủ trước tấn công prompt injection 11:02 — Tính tuân thủ và khả năng kiểm toán mặc định 12:14 — “Tác tử đưa ra chỉ dẫn cho con người nhiều hơn con người ra lệnh cho tác tử” 13:46 — Lý do Arca tự chủ hạ tầng tác tử 15:05 — Doanh nghiệp thuần AI và doanh nghiệp sử dụng công cụ AI 16:09 — Môi trường thử nghiệm sandbox và quy trình xác thực kế hoạch tài chính 18:40 — Mô hình ra quyết định và kiểm chứng dữ liệu tài chính 19:51 — Lý do hoạt động thực thi giao dịch vẫn do các chuyên gia đảm nhiệm 20:32 — Chuyển hóa phản hồi của nhân viên thành các bộ đánh giá và giải pháp cải tiến 22:22 — Chuyển đổi tri thức vận hành thành ngữ cảnh hoạt động cho tác tử 23:41 — Trường hợp khách hàng thực tế: Chi phí ẩn và dịch vụ chủ động Theo dõi bài thuyết trình của Aman tại AIE