Đạo luật AI của Liên minh châu Âu thực sự thay đổi những gì đối với các công ty cơ sở hạ tầng AI

Khoảng cách quản trị 88%/8% mô tả một vấn đề cấu trúc, không phải lỗi tuân thủ. 88% các tổ chức đang sử dụng AI trong ít nhất một chức năng kinh doanh. 8% có khuôn khổ quản trị trưởng thành. Tháng 8 năm 2026 là thời điểm khoảng cách giữa hai con số này mang một chi phí cụ thể. Các nghĩa vụ đối với hệ thống AI rủi ro cao của Đạo luật AI của EU có hiệu lực trong tháng này, với mức phạt lên tới 35 triệu EUR hoặc 7% doanh thu toàn cầu hàng năm. Gartner dự kiến chi 492 triệu USD cho nền tảng quản trị trong năm nay khi các tổ chức nỗ lực thu hẹp khoảng cách. Áp lực tuân thủ là có thật. Câu hỏi quan trọng hơn mang tính cấu trúc là: Đạo luật này tiết lộ điều gì về cách cơ sở hạ tầng AI thực sự phải được xây dựng, và tại sao 88% các tổ chức lại xây dựng nó mà không tính đến yêu cầu đó. Những gì người mua doanh nghiệp bắt đầu đánh giá vào năm 2026 Trong vài năm, việc đánh giá AI của doanh nghiệp tuân theo một trình tự dễ nhận biết: thử nghiệm khái niệm (proof of concept), đánh giá độ chính xác, đánh giá khả năng mở rộng, xem xét bảo mật, hợp đồng. Trình tự đó vẫn tồn tại. Một câu hỏi khác đã xuất hiện sớm hơn trong trình tự đó. Các nhóm mua sắm của doanh nghiệp đã nhận ra rằng việc tiếp nhận một hệ thống AI không thể trả lời các câu hỏi quy định sau khi triển khai sẽ chuyển rủi ro trách nhiệm pháp lý từ nhà cung cấp sang người mua. Bốn câu hỏi đang xuất hiện trong các cuộc đàm phán mua sắm nhiều tháng trước khi thảo luận hợp đồng, điều mà mười tám tháng trước không có. Tại sao kiến trúc này được chọn thay vì các lựa chọn thay thế có sẵn. Sự giám sát có ý nghĩa của con người tồn tại ở đâu trong chuỗi quyết định. Hệ thống sẽ làm gì khi gặp các đầu vào nằm ngoài phân phối huấn luyện của nó. Ai chịu trách nhiệm về hậu quả của các quyết định mà hệ thống tác động. Những câu hỏi này đòi hỏi các câu trả lời về kiến trúc, nghĩa là chúng phải tồn tại trong sản phẩm trước khi quá trình đánh giá bắt đầu. Các giải thích được đưa ra dưới áp lực thẩm định không phải là điều tương tự. Cửa sổ giám sát mà AI tác nhân (agentic AI) nén lại Quản trị AI truyền thống được thiết kế dựa trên một giả định cụ thể: con người sẽ đánh giá đầu ra của hệ thống trước khi bất kỳ hành động nào được thực hiện. Giả định đó đúng với các hệ thống có giám sát, nơi đầu ra chờ xem xét của con người trước khi tiếp tục. Các hệ thống tác nhân đã loại bỏ sự chờ đợi đó. Một tác nhân trong quy trình sản xuất có thể lập kế hoạch một chuỗi, gọi các API bên ngoài, kích hoạt các quy trình hạ nguồn và thực hiện các quyết định đa bước trước khi hàng đợi phê duyệt của người xem thậm chí còn chưa tải xong. Cửa sổ giám sát, tức là khoảng cách giữa việc một quyết định được khởi xướng và một hành động được thực hiện, nén lại từ vài phút xuống vài giây. Một con người về mặt kỹ thuật có tham gia vào quy trình nhưng nhận được yêu cầu phê duyệt sau khi một quyết định quan trọng đã lan truyền qua nhiều lần chuyển giao giữa các tác nhân thì không cung cấp sự giám sát có ý nghĩa. Họ đang ký duyệt một kết quả đã xảy ra. Phân tích của DHS-CISA vào tháng 7 năm 2026 đã trực tiếp chỉ ra ý nghĩa kiến trúc của điều này: sự can thiệp có ý nghĩa phải được thiết kế vào điểm mà quyền hạn của tác nhân được cấp và giới hạn, bởi vì một khi quá trình thực thi tự động bắt đầu bên trong một đường ống đa tác nhân, sẽ không có điểm can thiệp nào bên trong nó. 74% các tổ chức dự kiến triển khai AI tác nhân ở mức độ vừa phải trong vòng hai năm. 21% có các mô hình quản trị được xây dựng cho điều kiện hoạt động đó. Các khuôn khổ quản trị được viết cho AI có giám sát đang được áp dụng cho các hệ thống có mối quan hệ cơ bản khác với sự giám sát của con người. Tại sao việc vượt qua đánh giá một lần là không đủ Một hệ thống AI vượt qua đánh giá khi triển khai chứng minh một điều cụ thể: nó có thể. được lưu trữ chính xác theo các điều kiện mà quá trình đánh giá đã bao gồm. Các điều kiện thay đổi sau khi triển khai. Mô hình được cập nhật. Sự phân bố dữ liệu dịch chuyển. Các lời nhắc mà người dùng viết không giống với các lời nhắc mà bộ đánh giá đã dự đoán. Các công cụ mà hệ thống gọi đến có hành vi mới. Các quy trình làm việc mà hệ thống vận hành bên trong được thiết kế lại dựa trên đầu ra của hệ thống. Cuối cùng, các điều kiện làm cho đánh giá ban đầu có giá trị có thể không còn tồn tại. Câu hỏi đặt ra cho bất kỳ hệ thống AI sản xuất nào không phải là câu hỏi mà thử nghiệm trước triển khai được thiết kế để trả lời: liệu đánh giá hiện tại có còn đại diện cho những gì hệ thống đang thực hiện hay không. Lớp đánh giá có thể trả lời câu hỏi đó hoạt động khác với một cổng chất lượng. Một cổng chất lượng là nhị phân và cuối cùng, đạt hoặc không đạt, trước hoặc sau. Những gì hệ thống AI sản xuất yêu cầu là một lớp liên tục so sánh hành vi của hệ thống với tiêu chuẩn mà nó được xây dựng để đáp ứng: độ chính xác, an toàn, độ tin cậy, tính xác thực, bất cứ điều gì tổ chức đã định nghĩa là đủ khi họ triển khai. Lớp đó yêu cầu phán đoán của tổ chức trước khi nó có thể hoạt động về mặt kỹ thuật. Ai đó phải chỉ định điều gì được coi là một thất bại, độ lệch nào so với hành vi cơ bản sẽ kích hoạt sự can thiệp, và khi nào một thay đổi hành vi đủ đáng kể để khởi động lại chu trình đánh giá. Những đặc điểm kỹ thuật đó phải tồn tại trước một thất bại, chứ không phải là phản ứng đối với một thất bại. Các hệ thống tác nhân (agentic systems) mở rộng vấn đề này sang một lĩnh vực mới. Khi một tác nhân AI có thể gọi công cụ, kích hoạt các quy trình làm việc tiếp theo và thực hiện các quyết định mà không cần chờ đợi con người ở mỗi bước, khoảng cách giữa hành vi và hậu quả bị thu hẹp đến mức đánh giá liên tục trở thành cơ chế duy nhất cung cấp sự giám sát có ý nghĩa. Không có điểm kiểm tra nào giữa quyết định của tác nhân và các tác động tiếp theo của nó. Giải thích như một yêu cầu kiến trúc Theo các yêu cầu về dấu vết kiểm toán của Đạo luật, tiêu chuẩn bằng chứng là cụ thể. Một bản ghi chống giả mạo về việc ai đã xem xét quyết định nào, dựa trên thông tin nào, tại thời điểm nào trong chuỗi quyết định, và họ đã đưa ra lựa chọn nào. Đối với các quy trình tác nhân: con người nào đã ủy quyền cho tác nhân, phạm vi nào được cấp, tác nhân đã truy cập những gì trong phạm vi đó, và những gì nó đã thực thi. Bản ghi đó phải có khả năng được ghi lại vì nó được xây dựng để được ghi lại. Một nghiên cứu điển hình vào tháng 7/2026 đã ghi nhận tác nhân Azure OpenAI của Deloitte Australia tạo ra các trích dẫn tòa án bịa đặt trong một hợp đồng khách hàng trị giá 290.000 USD. Thất bại không phải do khả năng của mô hình.