Các công ty đang gặp khó khăn vì đốt hàng tấn token.

Tháng trước, chỉ số quan trọng nhất tại Thung lũng Silicon là số lượng token đã sử dụng – đơn vị đo lường sức mạnh tính toán được các mô hình AI sử dụng. Các CEO đã có những bài phát biểu với nhân viên theo kiểu Matthew McConaughey trong phim *Sói già Phố Wall*: “Đó là những con số của lính mới, anh phải tăng những con số đó lên”. Hiện tại, họ đang yêu cầu nhân viên giảm tốc độ. Theo một báo cáo từ *Wall Street Journal*, các nhà lãnh đạo doanh nghiệp đã nhận ra rằng việc sử dụng token AI thực sự tốn kém, và việc sử dụng gần như chỉ để sử dụng mà không có mục tiêu nào khác thực sự không phải là một chiến lược kinh doanh hiệu quả. Thật may mắn khi những người này được trả hàng chục triệu đô la mỗi năm để tìm ra những điều này. Đầu tuần này, CEO của Uber, Dara Khosrowshahi, cho biết “ngày càng khó để biện minh” chi phí cho các sáng kiến AI trong công ty vì kết quả đầu ra không theo kịp tốc độ sử dụng token. Ông cũng thừa nhận rằng một phần lý do khiến họ sử dụng token một cách mạnh mẽ ngay từ đầu là vì họ “có thể cảm thấy” AI là miễn phí. Tuy nhiên, thực tế không phải vậy. Một nhà tư vấn AI giấu tên nói với *Axios* rằng một trong những khách hàng của họ đã vô tình chi nửa tỷ đô la trong một tháng vì không đặt giới hạn sử dụng cho nhân viên truy cập vào Claude của Anthropic. Đó là một con số... rất lớn, đến mức khó tin. *Journal* không tìm thấy trường hợp nào quá nghiêm trọng như vậy, nhưng đã nghe về một tổ chức tài chính mà nhân viên của họ đã sử dụng hàng trăm nghìn đô la token mỗi tháng, với việc nhân viên sử dụng các mô hình cao cấp để hỏi những câu hỏi cơ bản và thực hiện các cuộc trò chuyện vô nghĩa. Đây gần như là cách mà kỷ nguyên biện minh cho chi tiêu AI rất ngớ ngẩn này sẽ diễn ra. Các tập đoàn đã chi rất nhiều tiền để áp dụng các hệ thống này, và họ cần biện minh cho khoản chi đó. Để làm như vậy, họ khuyến khích nhân viên sử dụng AI càng nhiều càng tốt. Đổi lại, nhân viên làm theo – ngay cả khi không có lý do gì để sử dụng AI cho một nhiệm vụ. Meta đã loại bỏ bảng xếp hạng sử dụng token vào tháng trước sau khi thông tin bị rò rỉ, tiết lộ rằng “Huyền thoại Token” hàng đầu đã sử dụng 281 tỷ token trong một tháng – nhiều hơn lượng tính toán cần thiết để tái tạo toàn bộ Wikipedia 33 lần. Theo *Financial Times*, Amazon cũng đã thực hiện động thái tương tự trong tuần này, loại bỏ bảng điểm của những nhân viên sử dụng công cụ AI nội bộ của công ty nhiều nhất – một quyết định được cho là đã được đưa ra sau khi rõ ràng rằng nhân viên đang giao những nhiệm vụ vô nghĩa cho các tác nhân AI chỉ để giữ vị trí của họ trên bảng xếp hạng. Rõ ràng là thế giới doanh nghiệp sẵn sàng đốt tiền một cách phù phiếm để biện minh cho các khoản chi tiêu hiện có của họ. Tuy nhiên, hóa ra họ cũng có giới hạn. Bạn chỉ có thể sử dụng “số lượng token đã sử dụng” làm chỉ số trong một số cuộc họp báo cáo tài chính hàng quý trước khi các cổ đông bắt đầu tự hỏi tổng chi phí của tất cả các token đó là bao nhiêu.