AI Control Plane đang trở thành Shadow IT mới

Shadow IT trước đây được hiểu là việc đăng ký dịch vụ phần mềm dưới dạng dịch vụ (SaaS) được mua ngoài quy trình phê duyệt. Giải pháp cho vấn đề này là một chính sách mua sắm và một danh mục phần mềm. Đây là một vấn đề ở lớp ứng dụng với giải pháp ở lớp quản trị. Những gì đang xảy ra hiện nay với các công cụ AI không phải là vấn đề đó. Đây hoàn toàn không phải là vấn đề mua sắm. Mặt phẳng điều khiển AI đang lan rộng khắp các tổ chức vì không ai phân loại nó là cơ sở hạ tầng — và không có quy trình phê duyệt nào ngăn chặn cơ sở hạ tầng mà không ai nhận ra là cơ sở hạ tầng. Hầu hết các tổ chức đã triển khai các mặt phẳng điều khiển AI. Họ chỉ chưa bao giờ phân loại chúng là cơ sở hạ tầng. Đây không phải là vấn đề quản trị mô hình. Đây là vấn đề về quyền hạn cơ sở hạ tầng. Quản trị mô hình đặt câu hỏi liệu mô hình phù hợp có đang chạy cho mục đích phù hợp hay không. Quyền hạn cơ sở hạ tầng đặt câu hỏi ai sở hữu lớp thời gian chạy mà nó hoạt động — ai quản lý định tuyến, ai xác định miền lỗi, ai sở hữu đường dẫn phục hồi khi lớp suy luận vô hình bị hỏng lúc 2 giờ sáng. Shadow IT luôn là một vấn đề về quyền hạn vận hành Thất bại Shadow IT ban đầu chưa bao giờ thực sự liên quan đến mua sắm. Đó là về quyền hạn vận hành. Khi một nhóm tự chạy máy chủ tệp của họ trong một tủ, vấn đề không phải là đơn đặt hàng — mà là không ai sở hữu chu kỳ cập nhật, sao lưu, mô hình truy cập hoặc phản ứng khi xảy ra lỗi. Lịch sử của cơ sở hạ tầng không được quản lý tuân theo một mô hình nhất quán qua ba thế hệ. Shadow IT trong kỷ nguyên tại chỗ: các công cụ SaaS được mua ngoài bộ phận CNTT, tồn tại ở lớp ứng dụng, với phạm vi ảnh hưởng giới hạn trong quy trình làm việc của nhóm đó. Sự lan rộng của đám mây trong kỷ nguyên lai: cơ sở hạ tầng được cung cấp ngoài danh mục đã được phê duyệt, tồn tại ở lớp cung cấp, với phạm vi ảnh hưởng mở rộng đến chi phí và tình hình bảo mật. Sự lan rộng của mặt phẳng điều khiển AI trong kỷ nguyên hiện tại: thời gian chạy suy luận được triển khai ngoài quyền hạn vận hành, tồn tại ở lớp cơ sở hạ tầng, với phạm vi ảnh hưởng tích lũy về mặt cấu trúc trên mọi hệ thống chạm vào nó. Mỗi thế hệ đã di chuyển bề mặt không được quản lý sâu hơn một lớp vào ngăn xếp. Mỗi thế hệ đã tạo ra một chế độ lỗi mà mô hình quản trị của thế hệ trước không được thiết kế để phát hiện. Cả chính sách mua sắm lẫn khung quản trị đám mây đều không phát hiện được sự lan rộng của mặt phẳng điều khiển AI, bởi vì những gì đang được triển khai không phải là một công cụ trong danh mục. Đó là cơ sở hạ tầng vô hình. "Triển khai một công cụ AI" thực sự triển khai những gì Khi một nhóm nền tảng, một nhóm ứng dụng hoặc một nhóm sản phẩm "triển khai một công cụ AI", những gì thực sự đi vào sản xuất là một ngăn xếp các quyết định về cơ sở hạ tầng, hầu hết trong số đó chưa bao giờ được đưa ra một cách rõ ràng: Một lớp định tuyến suy luận chọn mô hình, quản lý chuỗi dự phòng và áp dụng logic phân cấp chi phí. Một ranh giới xác thực và ủy quyền — hoặc sự vắng mặt của nó — xác định những gì lớp suy luận có thể truy cập và thay mặt ai. Một đường ống quan sát thu thập dữ liệu đo từ xa suy luận hoặc không. Một lớp quản lý lời nhắc và ngữ cảnh xử lý logic phiên có trạng thái, tăng cường truy xuất và hành vi cửa sổ ngữ cảnh. Trong các triển khai tác nhân, một thời gian chạy điều phối tác nhân liên kết các lệnh gọi công cụ, quản lý chuỗi thực thi và quyết định những gì sẽ chạy tiếp theo. Một lớp thực thi chi phí và hạn ngạch — hoặc không có. Một mô hình thử lại và dự phòng điều chỉnh hành vi khi xảy ra lỗi một phần. Mỗi yếu tố trong số này là một quyết định về hạ tầng. Tổng hợp lại, chúng tạo thành một mặt phẳng điều khiển AI (AI control plane) – lớp xác định những gì hạ tầng suy luận thực hiện, cách nó thay đổi và ai có quyền hạn để thực hiện thay đổi đó. Không có yếu tố nào trong số này xuất hiện trong danh mục mua sắm. Tất cả đều đang hoạt động trong môi trường sản xuất. Kích thước Công nghệ thông tin bóng tối (Trước đây) Mặt phẳng điều khiển AI bóng tối (Hiện tại) Bề mặt quản trị Danh mục mua sắm phần mềm Lớp thời gian chạy, định tuyến và điều phối suy luận Chủ sở hữu lỗi Nhóm ứng dụng theo mặc định Không ai – không có ranh giới vận hành được xác định Phạm vi ảnh hưởng Cục bộ – giới hạn theo ứng dụng, cô lập Tổng hợp – chuỗi thời gian chạy, liên hệ thống, chồng chéo Khả năng quan sát Thiếu trong công cụ, hiển thị ở lớp mạng/chi phí Thiếu ở lớp suy luận – vô hình trong quá trình lỗi Quyền hạn vận hành Ngầm thuộc sở hữu của nhóm mua hàng Không xác định – không có chủ sở hữu hạ tầng được chỉ định Đường dẫn khắc phục Chính sách mua sắm + danh mục phần mềm Can thiệp kiến trúc – mô hình quyền hạn phải được xác định Cột "Phạm vi ảnh hưởng" là nơi sự tương đồng thể hiện rõ ràng nhất – và cũng là nơi mức độ rủi ro khác biệt rõ rệt nhất. Các lỗi của Shadow SaaS (phần mềm dịch vụ bóng tối) mang tính cục bộ. Các lỗi của mặt phẳng điều khiển AI mang tính tổng hợp. Một lớp định tuyến bị hỏng có thể đồng thời làm hỏng logic lựa chọn mô hình, thay đổi hành vi ủy quyền, làm tăng độ trễ cho tự động hóa hạ nguồn, loại bỏ khả năng quan sát trong cửa sổ lỗi và tạo ra các bất thường về chi phí mà phải mất nhiều ngày để tái cấu trúc. Tại sao Khung mặt phẳng điều khiển AI lại quan trọng Mặt phẳng điều khiển là lớp xác định những gì hạ tầng thực hiện, cách nó thay đổi và ai có quyền hạn để thực hiện thay đổi đó. Định nghĩa này áp dụng cho máy chủ API Kubernetes. Nó áp dụng cho vCenter. Nó áp dụng cho quy trình CI/CD của bạn. Và nó áp dụng cho lớp định tuyến, điều phối và chính sách suy luận điều chỉnh các khối lượng công việc AI trong sản xuất – mặt phẳng điều khiển AI – với cùng một lực lượng kiến trúc. Khi một lớp định tuyến suy luận được triển khai mà không có quyền sở hữu vận hành, nó không chỉ là một công cụ không có vé. Nó là một mặt phẳng điều khiển không có mô hình quyền hạn. Vấn đề "bảng điều khiển như mặt phẳng điều khiển bóng tối" ảnh hưởng đến mọi nền tảng hạ tầng áp dụng ở đây với toàn bộ sức mạnh: bề mặt xác định hành vi hệ thống đã được giao cho một môi trường thực thi không có ranh giới quản trị. Hầu hết các mặt phẳng điều khiển AI cũng phụ thuộc vào các chuỗi nhận dạng phi con người mà nhóm hạ tầng không quản lý. Các khóa API được môi giới giữa các dịch vụ, ủy quyền được ủy quyền trên các nhà cung cấp mô hình, chuỗi mã thông báo được truyền qua các chuỗi thực thi tác nhân, danh tính máy với các quyền suy luận mà không có con người nào xem xét. Bề mặt nhận dạng này được nhúng bên trong mặt phẳng điều khiển AI, không phải bên cạnh.