Triton dành cho MTIA: Thu hẹp khoảng cách về mô hình lập trình cho các bộ tăng tốc AI tùy chỉnh

Khoa học Máy tính > Ngôn ngữ Lập trình arXiv:2608.00325 (cs) [Gửi ngày 31/7/2026 (v1), sửa đổi lần cuối ngày 12/8/2026 (phiên bản hiện tại, v2)] Tiêu đề: Triton cho MTIA: Thu hẹp khoảng cách mô hình lập trình cho các bộ tăng tốc AI chuyên dụng Tác giả: Haishan Zhu, Domi Yan, Michael Levesque-Dion, Changxu Zhang, Mitch Gamburg, Kirsten Lee, Giancarlo Colmenares, Aditya Bhagwat, Arnab De, Markus Le Roux, Victor Perez Carrasco, Xin Tong, Will Cromar, Simran Barnwal, Andrew Uderian, Sridhar Gopinath, Jan Szczepaniec, Daniel Neilson, Blaine Burton Rister, Jordan Fix, Jazlyn Li, Zejun Huang, Lite Ye, Nan Zhang, Xinchen Guo, Andiry Xu, Michael Roberts, Kunming Ho, Site Cao, Suryadev Sahadevan Rajesh, Tristan Trouwen, Mike Tsai, Jake Lee, Wayne Su, Yuhan Chen, Xiaolong Xie, David Eklov, Aaron Barnes, Max Bremer, Adam Belay, Shintaro Iwasaki, Roman Levenstein, Ajit Mathews Xem bản PDF của bài báo khoa học có tiêu đề Triton cho MTIA: Thu hẹp khoảng cách mô hình lập trình cho các bộ tăng tốc AI chuyên dụng, của tác giả Haishan Zhu và 42 tác giả khác Xem PDF HTML (thử nghiệm) Tóm tắt: Sự gia tăng nhanh chóng của khối lượng công việc học máy đã thúc đẩy sự phát triển mạnh mẽ của các kiến trúc bộ tăng tốc chuyên dụng. Được thiết kế chuyên biệt từ nền tảng ban đầu, các bộ tăng tốc này thường sở hữu những mô hình lập trình khác biệt so với GPU. Trong khi các nhà cung cấp dịch vụ đám mây quy mô siêu lớn và các doanh nghiệp khởi nghiệp chip AI tiếp tục đổi mới trong lĩnh vực này, việc bao phủ toàn diện các toán tử nhằm hỗ trợ đa dạng mô hình vẫn là một thách thức lớn. Ngoài ra, một ngôn ngữ lập trình kernel cấp cao, dễ sử dụng đóng vai trò quan trọng đối với quá trình lặp nhanh của các mô hình và kernel. Triton, cùng với TorchInductor, đã giải quyết được các vấn đề này trên GPU, song tính khả thi trên các bộ tăng tốc có mô hình lập trình khác biệt vẫn chưa được chứng minh. Công trình này trình bày ứng dụng quy mô sản xuất đầu tiên của Triton trên MTIA-2i, một bộ tăng tốc ML chuyên dụng do Meta phát triển. Nhằm hỗ trợ MTIA-2i, nghiên cứu đã phát triển một backend trình biên dịch mới chuyên dụng, đưa ra các cải tiến cho quy trình sinh mã TorchInductor, đồng thời đề xuất các phần mở rộng ngôn ngữ tối thiểu nhằm khai thác những tính năng kiến trúc đặc thù của MTIA. Kết quả chứng minh rằng các kernel Triton-MTIA đạt hiệu năng cạnh tranh với những bản triển khai C++ được tối ưu hóa chuyên sâu. Tận dụng hiệu quả phát triển này, các kernel Triton được viết thủ công và do Inductor tự động tạo đã được triển khai thành công vào môi trường vận hành thực tế trên khoảng 60 loại mô hình khác nhau, chiếm 50% số lớp và 47% thời gian thực thi ngoài GEMM của các mô hình này. Các kết quả nghiên cứu cung cấp bằng chứng thuyết phục cho thấy những ngôn ngữ đặc thù miền (DSL) như Triton có thể thu hẹp khoảng cách mô hình lập trình giữa các framework ML, kernel và bộ tăng tốc chuyên dụng, tạo điều kiện cho quá trình đổi mới nhanh chóng và triển khai hiệu quả trên quy mô lớn. Ghi chú: 12 trang, 12 hình vẽ, sẽ được xuất bản trên IEEE Micro Chủ đề: Ngôn ngữ Lập trình (cs.PL) Trích dẫn: arXiv:2608.00325 [cs.PL] (hoặc arXiv:2608.00325v2 [cs.PL] đối với phiên bản này) https://doi.org/10.48550/arXiv.2608.00325 Tiêu điểm tìm hiểu thêm Mã định danh DOI do arXiv cấp qua DataCite Lịch sử gửi bài Từ: Haishan Zhu [xem email] [v1] Thứ Sáu, ngày 31/7/2026 22:26:39 UTC (203 KB) [v2] Thứ Tư, ngày 12/8/2026 21:20:35 UTC (203 KB) Liên kết toàn văn: Truy cập bài báo: Xem bản PDF của bài báo khoa học có tiêu đề Triton cho MTIA: Thu hẹp khoảng cách mô hình lập trình cho các bộ tăng tốc AI chuyên dụng, của tác giả Haishan Zhu và 42 tác giả khác Xem PDF HTML (thử nghiệm) Mã nguồn TeX Xem giấy phép Tính năng bổ sung Tóm tắt âm thanh Danh mục duyệt hiện tại: cs.PL < trước | tiếp theo > mới | gần đây | tháng 08/2026 Chuyển sang duyệt theo: cs Tài liệu tham khảo và Trích dẫn SciX Google Scholar Semantic Scholar xuất trích dẫn BibTeX Đang tải... Trích dẫn định dạng BibTeX &times; đang tải... Dữ liệu được cung cấp bởi: Đánh dấu Công cụ thư mục Công cụ thư mục và trích dẫn Bật/tắt Bibliographic Explorer Bibliographic Explorer (Explorer là gì?) Bật/tắt Connected Papers Connected Papers (Connected Papers là gì?) Bật/tắt Litmaps Litmaps (Litmaps là gì?) Bật/tắt scite.ai Trích dẫn thông minh scite (Trích dẫn thông minh là gì?) Mã nguồn, Dữ liệu, Đa phương tiện Mã nguồn, Dữ liệu và Đa phương tiện liên quan đến bài viết này Bật/tắt alphaXiv alphaXiv (alphaXiv là gì?) Bật/tắt liên kết mã nguồn Công cụ tìm kiếm mã nguồn cho bài viết CatalyzeX (CatalyzeX là gì?) Bật/tắt DagsHub DagsHub (DagsHub là gì?) Bật/tắt GotitPub Gotit.pub (GotitPub là gì?) Bật/tắt Huggingface Hugging Face (Huggingface là gì?) Bật/tắt ScienceCast ScienceCast (ScienceCast là gì?) Bản demo Bản demo Bật/tắt Replicate Replicate (Replicate là gì?) Bật/tắt Spaces Hugging Face Spaces (Spaces là gì?) Bật/tắt Spaces TXYZ.AI (TXYZ.AI là gì?) Bài viết liên quan Công cụ gợi ý và tìm kiếm Liên kết đến Influence Flower Influence Flower (Influence Flowers là gì?) Bật/tắt công cụ gợi ý CORE Công cụ gợi ý CORE (CORE là gì?) Tác giả Nơi công bố Cơ quan nghiên cứu Chủ đề Giới thiệu về arXivLabs arXivLabs: các dự án thử nghiệm cùng các đối tác cộng đồng arXivLabs là một khung làm việc cho phép các đối tác phát triển và chia sẻ các tính năng mới của arXiv trực tiếp trên trang web của hệ thống. Cả cá nhân và tổ chức hợp tác với arXivLabs đều cam kết tôn trọng và tiếp nhận các giá trị về tính mở, cộng đồng, sự ưu việt và quyền riêng tư dữ liệu người dùng. arXiv kiên định thực hiện các giá trị này và chỉ hợp tác với các đối tác tuân thủ nghiêm ngặt các nguyên tắc trên. Trường hợp có ý tưởng dự án nhằm gia tăng giá trị cho cộng đồng arXiv, người dùng có thể tìm hiểu thêm thông tin về arXivLabs.