NVIDIA Jetson Mang AI Tác Tử Đến Thế Giới Vật Lý

Trí tuệ nhân tạo (AI) tác nhân đang trở nên hữu hình. Tại COMPUTEX vào thứ Ba, NVIDIA đã công bố NVIDIA JetPack 7.2 và hỗ trợ NVIDIA NemoClaw trên NVIDIA Jetson. JetPack 7.2 mang đến các kỹ năng AI tác nhân, hỗ trợ dự án Yocto, NVIDIA CUDA 13 trên NVIDIA Jetson Orin, tăng đáng kể hiệu suất trên mô-đun Jetson AGX Orin 32GB và hỗ trợ Multi-Instance GPU (MIG) trên NVIDIA Jetson Thor. Asier Arrnaz của NVIDIA trình bày cách Build-a-Claw đưa AI đến biên, một trợ lý cá nhân hóa, luôn hoạt động ngay trên NVIDIA Jetson. Sự kiện ra mắt trùng với sự kiện GTC Taipei Build-a-Claw, đưa sự kiện thực hành phổ biến từ GTC San Jose đến Đài Loan, một trong những trung tâm công nghệ toàn cầu hàng đầu thế giới. Bản phát hành đưa NemoClaw, khung AI tác nhân của NVIDIA, lên nền tảng Jetson cấp độ sản xuất — đưa AI tác nhân từ máy chủ và máy trạm vào thế giới vật lý, trong các lĩnh vực robot, kiểm tra và tự động hóa công nghiệp. Ông Deepu Talla, Phó Chủ tịch phụ trách robot và điện toán biên tại NVIDIA, cho biết: “AI tác nhân đã có mặt, và khả năng lập trình cùng hiệu suất cao của Jetson cho phép các nhà phát triển triển khai ngay lập tức các tác nhân AI vật lý trong sản xuất tại biên. Với các kỹ năng được xây dựng chuyên biệt cho phát triển và quy trình làm việc tác nhân, các nhà phát triển có thể đẩy nhanh thời gian đưa sản phẩm ra thị trường, giảm tổng chi phí sở hữu và triển khai ở quy mô lớn — tất cả trên một nền tảng tối ưu hóa bộ nhớ.” Jetson đã là một nền tảng đa thế hệ — Orin, Thor và các thế hệ tiếp theo — cung cấp năng lượng cho AI biên trong robot, hệ thống tự hành, kiểm tra công nghiệp và thiết bị y tế. JetPack 7.2 xây dựng trên nền tảng đó; NemoClaw mở rộng nó. Ba lớp được phát hành trong phiên bản này. JetPack 7.2 ở lớp cơ sở — hệ điều hành (OS), tính toán, hiệu suất xác định. Một lớp kỹ năng tác nhân mới ở giữa, tự động hóa các tác vụ của nhà phát triển. Và NemoClaw ở lớp trên cùng. JetPack 7.2 mang đến những nâng cấp lớn cho nền tảng phần mềm Jetson. Hỗ trợ hệ điều hành dựa trên Yocto cung cấp cho khách hàng công nghiệp một nền tảng Linux tinh gọn hơn, có thể tùy chỉnh hơn — quan trọng đối với các triển khai bị giới hạn bộ nhớ. CUDA 13 trên Jetson Orin mang đến ngăn xếp tính toán mới nhất cho các thiết bị hiện có. MIG cộng với nhân thời gian thực trên Jetson Thor cho phép các nhà phát triển dành riêng tài nguyên GPU cho các khối lượng công việc xác định, như hệ thống nhận thức robot không thể tạm dừng để suy luận AI không liên quan. Jetson AGX Orin 32GB cũng nhận được hiệu suất tăng lên 241 TOPS tính toán AI, tăng 20% so với thông số kỹ thuật ban đầu. Lớp giữa — các kỹ năng tác nhân — đẩy nhanh công việc xây dựng một hệ thống dựa trên Jetson. Các kỹ năng tác nhân Jetson hiện bao gồm tùy chỉnh Linux, tối ưu hóa bộ nhớ, đánh giá hiệu suất mô hình và các tác vụ phát triển tương tự. Những kỹ năng này hiện có sẵn dưới dạng các kỹ năng có thể triển khai bởi tác nhân, được phát triển từ tài liệu và hướng dẫn thiết kế của NVIDIA. Kết quả: một tác vụ từng mất hàng tuần nay được giải quyết trong vài ngày. Ở lớp trên cùng, NemoClaw được triển khai tới Jetson chỉ bằng một lệnh duy nhất. Sự kết hợp này đưa AI tác nhân lên một nền tảng robot và AI thị giác cấp độ sản xuất, đẩy nhanh quá trình tự động hóa tác vụ cho các hệ thống công nghiệp. Các nhà phát triển có thể tiến xa hơn với các kỹ năng bản thiết kế NVIDIA Metropolis VSS, bổ sung các tác nhân suy luận hình ảnh để quan sát, diễn giải và hành động dựa trên những gì chúng thấy. AI tác nhân đã có mặt với Jetson Nền tảng Jetson đã được triển khai trong các lĩnh vực như robot, tự động hóa công nghiệp, máy bay không người lái, thiết bị y tế, máy móc nông nghiệp, hệ thống hình người và nhiều lĩnh vực khác. Solomon sử dụng NemoClaw để phối hợp các tác nhân AI trên một robot hình người. Solomon sử dụng NVIDIA NemoClaw để điều phối các tác nhân AI trên robot hình người, tích hợp khả năng suy luận, nhận thức, tổng hợp cảm biến, di chuyển và thao tác vào một quy trình làm việc duy nhất. Với công nghệ nhận thức chủ động của Solomon, được hỗ trợ bởi mô hình nền tảng mã nguồn mở của NVIDIA, robot có thể hiểu các tác vụ, tối ưu hóa vị trí để chọn và thích ứng linh hoạt. Tất cả những điều này cho phép vận hành đáng tin cậy và tự động trong các môi trường phức tạp. Advantech đang xây dựng và triển khai một "bộ não" nhà máy tác nhân trong các cơ sở sản xuất của mình để cho phép các hoạt động AI-native sử dụng NVIDIA NemoClaw, NVIDIA Nemotron 3 và NVIDIA Jetson Thor. Nền tảng này tự động hóa việc quản lý đội robot, phát hiện lỗi thông minh và ra quyết định tự động để thúc đẩy các hoạt động công nghiệp thế hệ tiếp theo. Trên khắp các ngành công nghiệp, các sản phẩm này đã được xuất xưởng. Rebotnix sản xuất camera thành phố thông minh với khả năng suy luận tác nhân để ra quyết định cấp thành phố nhanh hơn. Spingence xây dựng các tác nhân phát hiện lỗi sản xuất để xác định nguyên nhân gốc rễ và các khuyến nghị cải tiến quy trình thông qua phân tích và suy luận tri thức. Và ANIWEAVE cùng Avalanche Computing đang hợp tác để biến các không gian bất động sản thành trải nghiệm tham quan 3D sống động với các tác nhân hội thoại được hỗ trợ bởi AI. Nhiều AI hơn, ít bộ nhớ hơn Hình ảnh do SandStar cung cấp. SandStar sử dụng NVIDIA Jetson Orin NX và NemoClaw để cung cấp năng lượng cho các máy bán hàng tự động AI và hoạt động bán lẻ thông minh với thị giác AI, tương tác dựa trên LLM, giám sát quy trình vận hành tiêu chuẩn và tối ưu hóa cửa hàng trên hơn 30 quốc gia. Bằng cách đạt được tối ưu hóa bộ nhớ gần 40%, SandStar báo cáo đã chuyển từ thiết bị 16GB sang 8GB, giảm đáng kể chi phí triển khai trong khi vẫn duy trì hiệu suất cao. NoTraffic phát triển Hệ thống quản lý giao thông thông minh được hỗ trợ bởi AI, phân tích điều kiện giao thông thời gian thực và tối ưu hóa động các hoạt động tín hiệu. NoTraffic báo cáo đã tối ưu hóa chi phí thư viện CUDA thông qua biên dịch tĩnh và cắt tỉa kernel có mục tiêu. Các tối ưu hóa này đã giảm mức sử dụng bộ nhớ 29%, cải thiện hiệu quả và hợp lý hóa ngăn xếp nhận thức để suy luận thời gian thực nhanh hơn. GROOVE X, nhà sản xuất robot đồng hành LOVOT, đang sử dụng nhiều bộ tăng tốc AI trên các mô-đun Jetson để giảm tải công việc CPU và GPU và giảm dung lượng bộ nhớ. JetPack 7.2 dựa trên Yocto đang được sản xuất Hexagon Robotics tích hợp Jetson Thor cho robot hình người an toàn hơn. Hexagon Robotics đang tích hợp NVIDIA Jetson Thor để cung cấp năng lượng cho các robot hình người an toàn hơn và tự chủ hơn với AI thời gian thực, xử lý cảm biến tốc độ cao.