Bảo đảm an ninh cho doanh nghiệp vận hành bằng tác tử thông qua truy xuất nguồn gốc dữ liệu

Một nhân viên kinh doanh yêu cầu tác tử AI (AI agent) cung cấp bảng giá cho khách hàng. Tác tử này đã trích xuất dữ liệu từ nhiều nguồn: hệ thống định giá giới hạn quyền truy cập, thông tin trao đổi nội bộ và các báo giá lưu trữ. Kết quả trả về có vẻ chính xác đối với tác tử, do đó một tác tử thứ hai đã sử dụng dữ liệu này để soạn thảo bản đề xuất cho nhân viên kinh doanh. Cả hai quá trình chuyển giao đều không có sự kiểm tra của con người. Khi phát hiện bản đề xuất chứa thông tin nhạy cảm, bảo mật và chưa được phê duyệt, không ai có thể truy xuất nguồn gốc dữ liệu lỗi đã xâm nhập vào quy trình từ đâu, cũng như cách thức dữ liệu lan truyền qua các hệ thống, tệp tin và tác tử. TẢI BÁO CÁO Kịch bản này cho thấy yêu cầu cấp thiết về việc quản trị AI cần phát triển nhanh chóng và linh hoạt. Khi ngày càng nhiều doanh nghiệp ứng dụng AI tự chủ (agentic AI) vào quy trình làm việc hằng ngày, các đơn vị này nhận thấy họ không chỉ phải quản lý các tệp tin tĩnh, mà còn phải quản lý luồng dữ liệu phân mảnh và biến động liên tục—vốn được tiếp nhận, sao chép, tóm tắt, chuyển đổi, tái sử dụng và phân phối lại dưới nhiều hình thức mới. Tựu trung lại, an ninh AI không phải là vấn đề về công cụ, mà là vấn đề về khả năng giám sát dữ liệu. Do đó, các phương pháp bảo đảm an ninh truyền thống chỉ tập trung vào ứng dụng, hệ thống, mạng hoặc thiết bị đầu cuối không còn đáp ứng được yêu cầu. Bảo đảm an ninh cho AI tự chủ trên quy mô lớn đòi hỏi phải nắm bắt được cách thức dữ liệu vận hành. Vì vậy, các tổ chức cần thiết lập phả hệ dữ liệu (data lineage) để quản trị hiệu quả, xác định rõ trách nhiệm giải trình và duy trì mức độ tin cậy xuyên suốt các quy trình vận hành của con người, tác tử độc lập và mô hình kết hợp. Tải báo cáo Nội dung này do Insights, bộ phận sản xuất nội dung theo yêu cầu của MIT Technology Review, thực hiện, không thuộc ban biên tập của ấn phẩm. Báo cáo được nghiên cứu và biên soạn bởi con người; các công cụ AI nếu có sử dụng chỉ giới hạn trong quy trình sản xuất dưới sự giám sát của con người.