AMD đã mua lại Taalas, một công ty khởi nghiệp chuyên tích hợp các mô hình AI trực tiếp vào chip silicon.

AMD mua lại Taalas, một công ty khởi nghiệp tích hợp các mô hình AI trực tiếp vào chip silicon. AMD đang mua lại Taalas, một công ty khởi nghiệp AI của Canada chuyên sản xuất chip suy luận chuyên biệt. Được thành lập tại Toronto vào năm 2023, Taalas đã ra mắt vào tháng 2 với một phương pháp tiếp cận độc đáo: công ty nhúng kiến trúc mô hình và các tham số đã được huấn luyện trực tiếp vào chip. Điều này giúp quá trình suy luận cực kỳ nhanh chóng nhưng khóa mỗi chip vào một mô hình duy nhất. Một chip thử nghiệm đã đạt hơn 16.000 token mỗi giây cho mỗi người dùng khi chạy Llama 3.1-8B, nhanh hơn nhiều lần so với phần cứng cạnh tranh. Google được cho là đang phát triển một chip tương tự cho Gemini. Chip thử nghiệm của Taalas với Llama được mã hóa cứng vượt trội so với mọi chip suy luận khác về tốc độ thô, nhưng nó bị khóa vào một mô hình đó. | Ảnh: Taalas AMD có kế hoạch tích hợp công nghệ này vào lộ trình phát triển bộ tăng tốc của mình và cung cấp nó cùng với GPU Instinct như một giải pháp cấp hệ thống. Ông Vamsi Boppana, Phó Chủ tịch cấp cao bộ phận AI của AMD, cho biết thỏa thuận này củng cố danh mục AI của công ty. Đồng sáng lập Taalas, ông Ljubisa Bajic, cho biết AMD cung cấp quy mô và phạm vi tiếp cận mà công ty khởi nghiệp cần. Việc mua lại phải tuân theo các phê duyệt quy định tiêu chuẩn. Nguồn: AMD | Taalas