Các hệ thống AI tự chủ thử nghiệm quản trị trong môi trường vật lý

Các hệ thống AI tự hành đang bắt đầu vượt ra khỏi môi trường phần mềm để tiến vào các nhà kho, mạng lưới giao hàng và không gian công cộng. Sự phát triển này đang thu hút sự chú ý về việc liệu các quy tắc AI hiện hành có bao gồm các hệ thống hoạt động trong môi trường vật lý hay không. Hầu hết các khuôn khổ quản trị AI hiện có đều tập trung vào các tác hại trực tuyến và đầu ra mô hình, bao gồm thiên vị, thông tin sai lệch và nội dung độc hại. Các hệ thống AI thể hiện mang theo rủi ro trong môi trường vật lý, nơi các sự cố có thể ảnh hưởng đến cơ sở hạ tầng, tài sản hoặc an toàn của con người. Cơ quan Phát triển Truyền thông và Thông tin Singapore (IMDA) đã công bố phiên bản 1.5 của Khuôn khổ Quản trị AI Mẫu cho AI Tác nhân vào ngày 20/5. Khuôn khổ này đưa ra hướng dẫn cho các tổ chức triển khai các tác nhân AI có khả năng lập kế hoạch, đưa ra quyết định và thực hiện các hành động qua nhiều bước để hoàn thành các mục tiêu do người dùng xác định. Khuôn khổ nêu rõ các tác nhân có thể tương tác với các công cụ, hệ thống bên ngoài và các tác nhân khác, bao gồm các hệ thống cập nhật cơ sở dữ liệu, ghi tệp, điều khiển thiết bị hoặc thực hiện giao dịch. Khuôn khổ liệt kê kiểm soát truy cập, giám sát và phê duyệt của con người là các biện pháp quản trị để triển khai. AI tiến vào các hệ thống vật lý Tại một hội nghị thượng đỉnh AI ở Singapore vào tuần trước, các cuộc thảo luận về robot và AI thể hiện đã tập trung vào các vấn đề an toàn vận hành thường liên quan đến hàng không, hệ thống công nghiệp và giám sát cơ sở hạ tầng quan trọng hơn là quy định phần mềm thông thường. Các diễn giả cũng thảo luận về việc liệu các hệ thống tự hành có thể hoạt động an toàn và đáng tin cậy trong các môi trường thế giới thực không thể đoán trước trong thời gian dài hay không. Tiến sĩ Ya-Qin Zhang, Trưởng khoa sáng lập Viện Nghiên cứu Công nghiệp AI tại Đại học Thanh Hoa, cho biết các hệ thống AI thể hiện làm tăng cường các rủi ro đã liên quan đến phần mềm tự hành. Ông nói rằng các sự cố có thể ảnh hưởng trực tiếp đến hệ thống giao thông, máy bay không người lái, mạng lưới hậu cần và cơ sở hạ tầng quan trọng. “Bất kỳ rủi ro nào trong lĩnh vực kỹ thuật số sẽ được khuếch đại trong lĩnh vực vật lý, và lĩnh vực vật lý sẽ có hậu quả vật lý,” ông Zhang nói với MLex bên lề hội nghị thượng đỉnh. Ông nói thêm rằng các phương tiện, máy bay không người lái, lưới điện thông minh và các cơ sở hạ tầng khác có thể gặp rủi ro khi các hệ thống AI được tích hợp sâu hơn vào các hoạt động vật lý. Các diễn giả đã thảo luận về độ tin cậy, giám sát vận hành và đảm bảo sau triển khai như những mối quan tâm về quản trị. Các cuộc thảo luận tại hội nghị thượng đỉnh đã chỉ ra các mô hình quản trị dựa trên triển khai được xây dựng xung quanh mô phỏng, đo từ xa và thử nghiệm lặp đi lặp lại, thay vì chỉ chứng nhận một lần. Khuôn khổ của IMDA cũng khuyến nghị triển khai dần dần, giám sát liên tục và thử nghiệm thêm sau khi triển khai. Khuôn khổ cho biết các tác nhân tương tác động với môi trường của chúng và không phải tất cả các rủi ro đều có thể được dự đoán trước khi phát hành. Giám sát trở thành vấn đề triển khai Grab, đang thử nghiệm các phương tiện tự hành và robot giao hàng tại quận Punggol của Singapore, cho biết quản trị triển khai phụ thuộc rất nhiều vào mô phỏng, thử nghiệm và giám sát liên tục. “Chúng tôi thực hiện rất nhiều mô phỏng, chúng tôi thực hiện rất nhiều thử nghiệm trong các khóa học đóng và mở để đảm bảo robot của chúng tôi đáng tin cậy,” Suthen Thomas Paradatheth, Giám đốc Công nghệ của Grab, cho biết trong một trong các phiên thảo luận của hội nghị thượng đỉnh. “Trước khi chúng tôi mở rộng quy mô lên hàng trăm robot, chúng tôi đảm bảo rằng chúng tôi đã giải quyết được vấn đề trong mô phỏng và với một vài robot,” ông nói thêm. Grab cũng chỉ ra các hệ thống giám sát được thiết kế để theo dõi hiệu suất của robot và phát hiện các sự cố bất ngờ sau khi triển khai. “Có rất nhiều vấn đề có thể phát sinh,” ông Paradatheth nói. Khung IMDA nêu rõ các tổ chức nên đánh giá các trường hợp sử dụng AI tác nhân dựa trên quyền truy cập dữ liệu, quyền truy cập hệ thống bên ngoài, quyền tự chủ và độ phức tạp của tác vụ. Khung này cũng chỉ ra phạm vi và khả năng đảo ngược của các hành động của tác nhân, sự tham gia của bên thứ ba và độ phức tạp tổng thể của hệ thống. Khung này cũng khuyến nghị hạn chế quyền truy cập của tác nhân vào các công cụ và hệ thống, áp dụng các quyền có đặc quyền tối thiểu và xác định các quy trình vận hành tiêu chuẩn cho quy trình làm việc của tác nhân. Các tổ chức cũng nên thiết lập các cơ chế để đưa tác nhân ngoại tuyến khi chúng gặp trục trặc. Trách nhiệm giải trình được phân bổ cho nhiều bên liên quan hơn. MLex đưa tin rằng các hệ thống AI có hình thể có thể liên quan đến nhiều bên trong quá trình phát triển, sản xuất và triển khai. Các bên này bao gồm các nhà phát triển AI, nhà sản xuất robot, nhà cung cấp chất bán dẫn và nhà điều hành cơ sở hạ tầng. MLex cũng lưu ý rằng việc phân công trách nhiệm có thể khó khăn hơn khi các hệ thống tiếp tục thích ứng sau khi triển khai thông qua các bản cập nhật phần mềm, dữ liệu đo từ xa và dữ liệu vận hành. IMDA cho biết các tổ chức và con người vẫn phải chịu trách nhiệm về các hành động của tác nhân, ngay cả khi tác nhân hoạt động tự chủ. Khung này kêu gọi trách nhiệm rõ ràng trong toàn bộ chuỗi giá trị AI tác nhân, từ các nhà cung cấp mô hình và nền tảng đến các nhà triển khai, nhà cung cấp công cụ và người dùng cuối. Applied Materials cho biết việc triển khai robot quy mô lớn cũng gắn liền với kinh tế bán dẫn và tích hợp hệ thống. Ông Om Nalamasu, Giám đốc công nghệ của công ty, cho biết các hệ thống robot sẽ phụ thuộc vào các cảm biến tốt hơn, hiệu quả năng lượng, đóng gói tiên tiến và kiến trúc máy tính. Ông Nalamasu cho biết các hệ thống robot sẽ yêu cầu các thiết kế chuyên dụng được điều chỉnh cho các hệ sinh thái công nghiệp cụ thể thay vì một giải pháp duy nhất cho tất cả các môi trường. Ông Zhao Yuli, Giám đốc chiến lược của công ty khởi nghiệp robot Trung Quốc Galbot, cho biết Bắc Kinh đang ưu tiên quy mô triển khai và thương mại hóa công nghiệp thông qua các trung tâm thử nghiệm do chính phủ hỗ trợ, quan hệ đối tác công nghiệp và các sáng kiến tài trợ dài hạn. Galbot đã triển khai các hệ thống robot hình người trong các hoạt động bán lẻ, kho bãi và dược phẩm ở Trung Quốc. Các hệ thống này bao gồm các cửa hàng tự động hoạt động suốt ngày đêm. Ông Zhao cho biết các môi trường công nghiệp bán cấu trúc có khả năng trở thành con đường thương mại hóa sớm vì chúng mang lại các điều kiện vận hành dễ kiểm soát hơn. Nhật Bản đang tập trung nhiều hơn vào việc thiết lập tiêu chuẩn, bộ dữ liệu robot và quản trị an toàn. Giáo sư Yutaka Matsuo thuộc Trường Kỹ thuật Sau đại học của Đại học Tokyo đã chỉ ra một dự án "Hiệp hội AI" nhằm mục đích thu thập 100.000 giờ robot.