Làm thế nào để thu hẹp ngân sách token mà không thu hẹp đội ngũ

Jensen Huang có một bài kiểm tra để đánh giá liệu một kỹ sư có đáng giữ lại hay không, và nó đi kèm với một ngân sách token. Phát biểu trên podcast All-In vào cuối GTC 2026, Giám đốc điều hành Nvidia cho biết nếu mức tiêu thụ token AI hàng năm của một kỹ sư trị giá 500.000 USD thấp hơn một nửa mức lương của họ, "tôi sẽ vô cùng lo lắng". Ông xác nhận Nvidia đang hướng tới một hóa đơn token hàng năm trị giá 2 tỷ USD cho đội ngũ kỹ sư của mình. Ông đang mô tả một sự đánh đổi mà hầu hết các công ty đã thực hiện với ít sự phô trương hơn: tiền từng trả cho con người ngày càng được dùng để trả cho token. Bốn nhà cung cấp dịch vụ siêu quy mô lớn nhất đã dự kiến tổng chi tiêu vốn năm 2026 khoảng 700 tỷ USD, gần gấp đôi năm ngoái, trong khi dữ liệu từ công ty tái bố trí nhân sự Challenger, Gray & Christmas cho thấy AI là lý do được trích dẫn nhiều nhất cho việc cắt giảm việc làm ở Mỹ trong tháng thứ tư liên tiếp. Một bản ghi nhớ nội bộ của Meta do Reuters thu được mô tả việc cắt giảm 8.000 vị trí vào tháng 5 nhằm bù đắp các khoản đầu tư đáng kể của công ty, trong một quý mà doanh thu tăng 33%. Việc sa thải tại các công ty như thế này không phải là biện pháp sinh tồn. Chúng là biện pháp tài chính. Vấn đề là việc tài trợ đã không mang lại những gì nó hứa hẹn. Gartner đã khảo sát 350 giám đốc điều hành tại các công ty có doanh thu hơn 1 tỷ USD, tất cả đều triển khai các tác nhân AI hoặc tự động hóa, và phát hiện khoảng 80% đã cắt giảm nhân sự mà không có mối tương quan với việc cải thiện lợi nhuận. Phán quyết của nhà phân tích Helen Poitevin rất thẳng thắn: "Việc cắt giảm lực lượng lao động có thể tạo ra không gian ngân sách, nhưng chúng không tạo ra lợi nhuận." Uber đã học được bài học về token một cách tốn kém, khi cung cấp công cụ mã hóa AI cho 5.000 kỹ sư vào tháng 12 và cạn kiệt toàn bộ ngân sách AI năm 2026 vào tháng 4. Giám đốc điều hành Andrew Macdonald thừa nhận rằng mặc dù 70% mã cam kết được tạo ra bởi AI, nhưng mối liên hệ với bất cứ điều gì khách hàng nhận thấy vẫn còn thiếu: "Mối liên kết đó vẫn chưa tồn tại." Đặt hai thất bại đó cạnh nhau và vấn đề thực sự trở nên rõ ràng. Các công ty coi hóa đơn token là cố định và lực lượng lao động là linh hoạt, trong khi điều ngược lại mới đúng. Việc cắt giảm lương xảy ra một lần và mang theo kiến thức tổ chức. Một ngân sách token, hóa ra, có thể được điều chỉnh ở hàng tá điểm nếu có ai đó bận tâm đến việc thiết kế nó. Nơi ngân sách token được điều chỉnh Giải pháp rẻ nhất cũng là giải pháp ít hấp dẫn nhất: ngừng trả tiền để xử lý cùng một văn bản lặp đi lặp lại. Bộ nhớ đệm lời nhắc (prompt caching), hiện là tiêu chuẩn trên các nhà cung cấp API lớn, giúp giảm chi phí đầu vào lặp lại tới 90% theo giá công bố của Anthropic và OpenAI, vì nội dung tĩnh như hướng dẫn hệ thống và tài liệu tham khảo được xử lý một lần và đọc lại với một phần nhỏ chi phí. Công ty bảo mật ProjectDiscovery đã ghi nhận việc tăng tỷ lệ truy cập bộ nhớ đệm từ 7% lên 84% bằng cách tái cấu trúc lời nhắc, cắt giảm tổng chi tiêu LLM của họ từ 59% đến 70% trong khi phục vụ 9,8 tỷ token từ bộ nhớ đệm. Bài tập kỹ thuật đơn lẻ đó đã phục hồi nhiều ngân sách hơn hầu hết các đợt sa thải liên quan đến AI. Đòn bẩy tiếp theo là định tuyến công việc đến mô hình có kích thước phù hợp. Bảng giá của các nhà cung cấp cho thấy các mô hình hàng đầu có giá gấp năm lần so với các mô hình nhỏ hơn trên mỗi token, nhưng nhiều khối lượng công việc sản xuất vẫn gửi các tác vụ phân loại và tóm tắt thông thường đến cấp đắt nhất theo mặc định. Xử lý hàng loạt (batch processing) bổ sung thêm 50% chiết khấu cho bất kỳ thứ gì không cần phản hồi theo thời gian thực. Kỹ thuật tạo sinh có tăng cường truy xuất (RAG) giải quyết vấn đề từ một góc độ khác bằng cách chỉ gửi cho mô hình phần thông tin liên quan của cơ sở tri thức thay vì toàn bộ, và nén lời nhắc (prompt compression) cắt bỏ các ví dụ dư thừa làm tăng chi phí mỗi lần gọi. Các mô hình mã nguồn mở (open-weight models) tiếp tục giảm chi phí hơn nữa, xử lý các khối lượng công việc thường xuyên với chi phí chỉ bằng một phần nhỏ so với giá API (giao diện lập trình ứng dụng) tiên tiến dành cho các nhóm sẵn sàng quản lý cơ sở hạ tầng. Những biện pháp này đơn thuần là tương đương với việc tắt đèn trong các phòng trống trong lĩnh vực AI, và mức giới hạn 1.500 USD/tháng của Uber cho mỗi kỹ sư – được áp đặt sau đợt chi tiêu vượt mức vào tháng 4 – là bằng chứng ban đầu cho thấy kỷ luật chi tiêu cuối cùng sẽ đến. Các công ty đang dẫn đầu đơn giản là lựa chọn kỷ luật chi tiêu trước khi ngân sách buộc phải làm vậy. Một nửa giải pháp còn lại là con người. Việc tối ưu hóa chi phí token chỉ có ý nghĩa nếu khoản tiết kiệm được sử dụng một cách hiệu quả, và bằng chứng mạnh mẽ nhất chỉ ra con người. Nghiên cứu của Poitevin cho thấy các tổ chức cải thiện ROI (tỷ suất hoàn vốn) là những tổ chức sử dụng AI để khuếch đại lực lượng lao động của họ thay vì thay thế. Klarna đã thực hiện thử nghiệm có kiểm soát thay mặt mọi người, thay thế khoảng 700 vị trí dịch vụ khách hàng bằng một trợ lý do OpenAI cung cấp trước khi sự hài lòng của khách hàng giảm sút. Giám đốc điều hành Sebastian Siemiatkowski đã nói với Bloomberg điều mà ít giám đốc điều hành nào thừa nhận công khai: "Kết quả là chất lượng thấp hơn, và điều đó không bền vững." Công ty công nghệ tài chính này hiện đang vận hành một mô hình kết hợp, với AI đảm nhận khối lượng công việc thường xuyên trong khi những nhân viên được tuyển dụng lại xử lý mọi việc đòi hỏi sự phán đoán. Gartner dự kiến mô hình này sẽ lan rộng, dự đoán rằng đến năm 2027, một nửa số công ty cắt giảm nhân viên dịch vụ khách hàng vì AI sẽ tuyển dụng lại họ. Có một khoản đầu tư vào lực lượng lao động mà logic tối ưu hóa khiến nó trở nên cấp bách thay vì tùy chọn. Viện AI lấy con người làm trung tâm của Đại học Stanford (Stanford University's Institute for Human-Centered AI) phát hiện ra rằng việc làm cho các nhà phát triển phần mềm từ 22 đến 25 tuổi đã giảm gần 20% so với mức năm 2024 ngay cả khi các nhóm tuổi lớn hơn tăng lên, điều này có nghĩa là các công ty đang loại bỏ môi trường đào tạo cho các kỹ sư cấp cao mà họ sẽ cần để điều hành tất cả các hệ thống này trong năm năm tới. Một doanh nghiệp vừa tiết kiệm được 60% chi phí token có đủ ngân sách để tiếp tục tuyển dụng ở cấp thấp nhất. Việc có làm hay không là một quyết định của lãnh đạo, không phải là một quyết định tài chính. Lời thách thức của Huang từ Nvidia sẽ tiếp tục vang vọng qua các cuộc gọi công bố thu nhập, và các con số chi phí vốn (capex) sẽ tiếp tục tăng. Các công ty dẫn đầu sẽ không phải là những công ty chi tiêu nhiều nhất cho token hoặc cắt giảm nhiều người nhất để chi trả cho chúng – họ sẽ là những công ty nhận ra rằng ngân sách token luôn là một khoản mục linh hoạt, đã siết chặt nó bằng kỹ thuật thay vì cắt giảm nhân sự, và chi tiêu phần chênh lệch.