Các chức năng an toàn của robot đã vận hành hiệu quả. Điều gì sẽ xảy ra nếu dữ liệu đầu vào bị sai lệch?

Bài viết do VicOne cung cấp. Một robot di động giảm tốc độ khi gặp người trong hành lang. Một cánh tay robot cộng tác giảm biên độ chuyển động khi công nhân đến gần. Một robot hình người dừng lại để nhường đường cho người đi bộ. Mỗi phản ứng này đều phụ thuộc vào thông tin về robot hoặc môi trường xung quanh: chỉ số khoảng cách, ước tính vị trí hoặc tín hiệu dừng. Tuy nhiên, điều gì sẽ xảy ra khi một trong những dữ liệu đầu vào đó bị sai lệch nhưng robot vẫn phản ứng chính xác theo thiết kế? Robot di động nhận định hành lang thông thoáng trong khi vẫn có người ở đó. Cánh tay robot ước tính công nhân đang ở khoảng cách xa hơn. Robot hình người không nhận được tín hiệu dừng khi có người cắt ngang đường di chuyển. Trong từng trường hợp, một sự cố kỹ thuật có thể gây ra sự sai lệch đó. Sự thao túng có chủ đích cũng có thể dẫn đến hậu quả tương tự. Tại VicOne LAB R7, các nhà nghiên cứu xem xét cách thức các dữ liệu đầu vào bị thao túng có thể làm thay đổi hành vi của robot — và những tác động của hiện tượng này đối với các hệ thống bảo đảm an toàn cho con người. Cách dữ liệu đầu vào không đáng tin cậy có thể thay đổi hành vi của robot Robot không chỉ đơn thuần đo lường môi trường xung quanh. Thiết bị này có thể phân tích những gì nhìn thấy và nghe thấy để quyết định hành động tiếp theo. Do đó, thông tin xuất hiện trong môi trường hoạt động có thể tác động đến hành vi của robot. Các nghiên cứu đã công bố cho thấy cơ chế diễn ra tình trạng này. Trong một nghiên cứu về các mô hình thị giác-ngôn ngữ-hành động (VLA), một vùng can thiệp hình ảnh trong tầm nhìn của camera đã làm giảm tỷ lệ thành công của tác vụ trong các thử nghiệm mô phỏng robot. Nghiên cứu FreezeVLA phát hiện ra rằng một hình ảnh đối kháng có thể khiến các mô hình được thử nghiệm phớt lờ các chỉ dẫn tiếp theo. Dù sử dụng các phương pháp khác nhau, cả hai nghiên cứu đều chứng minh dữ liệu thị giác đầu vào có thể gây cản trở tác vụ định sẵn của robot. Trong một thử nghiệm với robot hình chó sử dụng mô hình Gemma 4 E4B, văn bản trên một tấm áp phích đã bị nhận diện thành chỉ lệnh và làm thay đổi chuyển động của robot. VicOne LAB R7 cũng thử nghiệm cách dữ liệu đầu vào không đáng tin cậy có thể làm biến đổi hành vi của robot. Trong một thử nghiệm với robot hình chó sử dụng mô hình Gemma 4 E4B, văn bản trên một tấm áp phích đã bị nhận diện thành chỉ lệnh và làm thay đổi chuyển động của robot. Trong một mô phỏng robot phục vụ bệnh viện khác sử dụng mô hình Nemotron trên nền tảng NVIDIA Jetson AGX Orin, các tín hiệu âm thanh được thiết kế tinh vi mà con người không nghe thấy được đã làm thay đổi hành vi mô phỏng của robot. Các nhiệm vụ được giao không thay đổi; chỉ có dữ liệu đầu vào bị biến đổi. Trong một thử nghiệm của VicOne LAB R7, văn bản trên một tấm áp phích đã làm thay đổi chuyển động của robot hình chó, minh chứng cho việc một dữ liệu đầu vào được thiết kế có chủ đích có thể biến một kết quả hy hữu thành một cuộc tấn công có khả năng lặp lại. VicOne Các quyết định liên quan đến an toàn cũng cần dữ liệu đầu vào Một hệ thống bảo vệ độc lập vẫn có thể ngăn chặn hành vi nguy hiểm. Tuy nhiên, hệ thống này cũng phụ thuộc vào thông tin: các chỉ số đo lường, ước tính và thông điệp cảnh báo thời điểm cần can thiệp. Điều gì sẽ xảy ra nếu một trong những dữ liệu đầu vào đó bị thao túng? Tại một sự kiện tìm kiếm lỗ hổng bảo mật robot (bug bounty), các nhà nghiên cứu của VicOne LAB R7 đã gửi một thông điệp ROS 2/DDS vào một robot mà ban tổ chức dự kiến sẽ đứng yên theo thiết lập kiểm soát an toàn. Kết quả là robot đã chuyển động. Bộ điều khiển thăng bằng của robot hình người là một ví dụ khác. Nếu bộ điều khiển này phụ thuộc vào một con quay hồi chuyển có lỗ hổng bảo mật, âm thanh ở tần số cộng hưởng của cảm biến có thể làm sai lệch thông số góc quay ghi nhận được. Khi đó, bộ điều khiển có thể tự điều chỉnh để bù trừ cho một độ nghiêng vốn không hề xảy ra. Các nhà nghiên cứu đã chứng minh phương thức tấn công bằng âm học cơ bản này đối với các thiết bị bay không người lái (drone) có con quay hồi chuyển dễ bị tổn thương. Nghiên cứu chưa ghi nhận chuỗi tấn công tương tự khiến một robot hình người bị ngã. Các cơ chế bảo vệ khác có thể cắt đứt một trong hai chuỗi tấn công nêu trên. Vấn đề đặt ra đối với các bộ phận phụ trách an toàn và an ninh mạng là liệu các biện pháp bảo vệ đó có phát hiện được mối nguy hại một cách độc lập hay không, hay vẫn phụ thuộc vào chính những thông tin đã bị thao túng. Hình 1. VicOne sơ đồ hóa cách các sự cố ngoài ý muốn và sự thao túng mạng có chủ đích có thể dẫn đến những hệ quả an toàn tương tự ở robot, từ mất kiểm soát đến gây tổn hại thể chất. VicOne Các cuộc tấn công có chủ đích thách thức những giả định về an toàn Một đánh giá an toàn ...đánh giá có thể coi sự kết hợp của các lỗi ngẫu nhiên là khó xảy ra. Tuy nhiên, hành vi thao túng có chủ đích sẽ làm thay đổi giả định đó. Kẻ tấn công có thể lựa chọn thời điểm đưa vào dữ liệu đầu vào giả mạo và lặp lại tác nhân kích hoạt tương tự. Điều này không đồng nghĩa với việc thiệt hại chắc chắn sẽ xảy ra, nhưng có thể làm thay đổi phương thức đánh giá rủi ro an ninh mạng. Các cảm biến dự phòng cũng cần được kiểm thử đối kháng. Nếu một hành động có thể tác động đến cả hai nguồn dữ liệu đầu vào, mức độ tin cậy từ sự đồng thuận giữa các cảm biến này có thể thấp hơn dự kiến. Trong nghiên cứu về xe tự hành, một vật thể vật lý được tạo tác tinh vi đã đánh lừa hệ thống nhận diện kết hợp camera và LiDAR. Nghiên cứu này không nhằm xác định lỗ hổng trên một mẫu robot cụ thể, song cho thấy lý do các đội ngũ kỹ thuật cần kiểm thử khả năng một hành vi thao túng có thể tác động đồng thời đến nhiều bước kiểm tra. Các mối đe dọa an ninh mạng bổ sung yếu tố chủ đích vào bài toán an toàn; do đó, các quy trình đánh giá rủi ro dựa trên lỗi ngẫu nhiên cần được xem xét lại nhằm tính đến các cuộc tấn công có thể được tính toán thời điểm và lặp lại. Kiểm thử an ninh củng cố cơ sở chứng minh an toàn của robot Các đội ngũ an toàn thiết lập các giới hạn về tốc độ, khoảng cách bảo vệ và phạm vi vận hành cho phép. Cơ sở dữ liệu chứng minh các giới hạn đó cũng cần thể hiện rõ điều gì sẽ xảy ra khi thông tin dùng để thực thi các quy chuẩn này bị thao túng có chủ đích. Cơ sở chứng minh đó cũng có thể hỗ trợ quá trình đánh giá mức độ đáp ứng các yêu cầu hiện hành. Tiêu chuẩn GB/T 45502-2025 của Trung Quốc giải quyết vấn đề an toàn thông tin cho robot dịch vụ. Tiêu chuẩn IEC TS 63074 xem xét các mối đe dọa an ninh có thể ảnh hưởng đến các hệ thống điều khiển liên quan đến an toàn. Quy định về máy móc của Liên minh châu Âu (EU Machinery Regulation), có hiệu lực từ ngày 20/1/2027, bao gồm các yêu cầu bảo vệ hệ thống và dữ liệu liên quan đến an toàn trước nguy cơ bị làm sai lệch. Mỗi văn bản có phạm vi áp dụng riêng, và các đội ngũ kỹ thuật vẫn cần cung cấp bằng chứng phù hợp với thiết kế cũng như điều kiện vận hành của từng loại robot. Hình 2. An ninh mạng củng cố cơ sở chứng minh an toàn của robot trong suốt vòng đời. VicOne hỗ trợ các đội ngũ kiểm thử giới hạn an toàn trước nguy cơ thao túng trước khi triển khai, đồng thời giám sát các điều kiện bảo đảm hành vi an toàn trong quá trình vận hành. VicOne Trước khi triển khai, các kỹ sư an toàn và an ninh mạng có thể so sánh kịch bản thông thường với kịch bản đối kháng dựa trên cùng các giới hạn an toàn. Trong quá trình vận hành, họ có thể giám sát các thay đổi đối với phần mềm, mô hình, tín hiệu cảm biến hoặc hành vi có thể làm thay đổi các kết quả đánh giá trước đó. Mọi biện pháp ứng phó đối với các hành vi đáng ngờ đều phải tuân thủ quy trình do đội ngũ phụ trách an toàn phê duyệt. VicOne hỗ trợ công tác này trong toàn bộ vòng đời của robot. Thông qua Cộng đồng Hack Robot (Robotic Hacking Community), VicOne LAB R7 hợp tác với các nhà nghiên cứu để tìm hiểu phương thức các mối đe dọa an ninh mạng có thể làm biến đổi hành vi của robot. Giải pháp Radeis của VicOne hỗ trợ các đội ngũ xác thực những tác động tiềm tàng trước khi triển khai, trong khi R