Đây có phải là buổi bình minh của Tokenpocalypse?

Microsoft gần đây đã công bố những thay đổi lớn về giá đối với GitHub Copilot – những thay đổi này nghiêm trọng đến mức một người dùng Reddit cho biết công ty của họ đã bắt đầu gọi đó là Tokenpocalypse. Trong tập mới nhất của podcast Equity của TechCrunch, Kirsten Korosec, Sean O’Kane và tôi đã thảo luận về ý nghĩa của những thay đổi đó đối với hệ sinh thái AI rộng lớn hơn. Sau cùng, khi Anthropic và các công ty AI lớn khác lên kế hoạch niêm yết công khai, dẫn đến những câu hỏi khó xử về khả năng sinh lời, chúng ta có thể sẽ thấy những đợt tăng giá tương tự đối với các sản phẩm AI khác, và nhiều hạn chế sử dụng hơn khi các doanh nghiệp cố gắng kiểm soát chi phí. “Liệu các phòng thí nghiệm AI này có thể giảm chi phí [và] phát triển công nghệ đủ để cuối cùng nó gặp nhau ở giữa với nhu cầu chi tiêu của khách hàng không?” Sean băn khoăn. Trong khi đó, Kirsten gợi ý rằng điều này cũng phản ánh “tốc độ mọi thứ đang diễn ra nhanh chóng như thế nào”. Chỉ trong vài tháng, các công ty đã bị ám ảnh bởi việc “tối đa hóa token”, sau đó lại quay lưng với nó do chi phí cao. Vì vậy, khi các công ty AI viết hồ sơ IPO của họ, cô ấy hỏi, “Làm thế nào để bạn thậm chí có thể viết những rủi ro này vào, bởi vì chúng đang phát triển trước mắt chúng ta?” Hãy tiếp tục đọc để xem trước cuộc trò chuyện của chúng tôi, đã được chỉnh sửa để ngắn gọn và rõ ràng. Anthony Ha: Khi chúng ta lên kế hoạch cho việc này, Sean, anh đã gọi đây là Tokenpocalypse. Và tôi muốn nghe thêm về suy nghĩ của anh, nhưng có một ví dụ về việc Microsoft quyết định với GitHub Copilot rằng họ sẽ bắt đầu tính phí nhiều hơn cho mỗi token [thay vì một mức giá cố định]. Toàn bộ hệ sinh thái này được trợ cấp rất nhiều bởi tiền của nhà đầu tư. Và vì vậy, những thứ dường như không có chi phí, trên thực tế, lại cực kỳ đắt đỏ. Và bây giờ chúng ta sẽ đến một thời điểm mà nhiều chi phí đó sẽ được chuyển sang người tiêu dùng cuối cùng, cho khách hàng. Điều đó sẽ thay đổi hành vi như thế nào? Tôi không nghĩ chúng ta biết, nhưng sẽ có rất nhiều khó khăn. Sean O’Kane: Ý tôi là, chúng ta nghĩ có bao nhiêu yếu tố rủi ro liên quan đến token sẽ có trong S-1 của Anthropic? Đây là một câu hỏi lớn. Đó là điều mà tôi đã đề cập rất nhiều trong chương trình này và chúng ta dường như cứ gặp phải nó, khi Uber đã trải qua toàn bộ vòng cung trong vòng một tháng rưỡi khi nói, “Chà, chúng tôi đã tiêu hết ngân sách cho những thứ này nhanh hơn nhiều so với chúng tôi nghĩ trong năm nay.” Và sau đó, “Ồ, có lẽ điều này sẽ hơi đắt, chúng tôi cần đặt giới hạn cho việc này, và chúng tôi cần hạn chế việc sử dụng của mọi người trong công ty.” Điều đó hơi đáng lo ngại. Hãy tưởng tượng nếu bạn thấy điều đó xảy ra quá nhanh ở một công ty như Uber, công ty đang sử dụng những thứ này rất nhiều, và đó chỉ là một câu hỏi: Liệu các phòng thí nghiệm AI này có thể giảm chi phí [và] phát triển công nghệ đủ để cuối cùng nó gặp nhau ở giữa với nhu cầu chi tiêu của khách hàng không? Một điều buồn cười khi nghĩ lại là, tôi không nghĩ có bất kỳ chiến lược nào liên quan đến việc tính phí 20 USD một tháng [cho ChatGPT Plus] khi ChatGPT ban đầu ra mắt. Nó chỉ giống như, “Hãy đưa ra một con số.” Và tất cả chúng ta đã phải đối mặt với điều đó kể từ đó. Rõ ràng, mọi người trả nhiều tiền hơn cho các mô hình tiên tiến hơn, nhưng ngay cả điều đó vẫn chưa đủ để thu hẹp khoảng cách đến chi phí thực tế. Vì vậy, đó rõ ràng là câu hỏi lớn nhất ở đây. Kirsten: Theo tôi, tất cả những điều này minh họa tốc độ phát triển nhanh chóng của mọi thứ. Ý tôi là, khi thực sự suy nghĩ về nó, toàn bộ vấn đề "tokenmaxxxing" đã trở thành một xu hướng, đạt đỉnh và hiện đang bị nhìn nhận tiêu cực, chỉ trong vòng sáu tháng. Quy mô của vấn đề này, toàn bộ cơ chế định giá, như bạn đã nói, đã được thiết lập trước khi các mô hình kinh doanh thực sự được định hình và củng cố xung quanh các phòng thí nghiệm AI. Đồng thời, chính phủ cũng đang cố gắng bắt kịp. Cũng trong tuần này, Tổng thống Trump đã ký một sắc lệnh hành pháp – đây là một phiên bản giới hạn, nhưng được thiết kế để tạo cơ hội cho chính phủ xem xét các mô hình AI mạnh mẽ. Vì vậy, tất cả những điều này đang diễn ra với một tốc độ mà tôi nghĩ mình chưa từng trải qua. Đó là lý do tại sao tôi thực sự mong đợi một số báo cáo đăng ký IPO S-1 này, vì các yếu tố rủi ro. Làm thế nào để viết những rủi ro này vào, bởi vì chúng đang phát triển trước mắt chúng ta, từng ngày? Anthony: Uber là một ví dụ thú vị, Sean, bởi vì bạn đã đề cập đến chi tiêu AI của họ, nhưng họ cũng xuất hiện trong các cuộc thảo luận về AI vì đôi khi, những người nghĩ rằng có một bong bóng này, họ sẽ đưa ra việc các công cụ này, các công ty này thua lỗ đến mức nào, và sau đó mọi người sẽ đưa Uber ra làm phản hồi. Mọi người đã nói về việc Uber thua lỗ đến mức nào, nhưng cuối cùng bạn đạt được quy mô và sau đó bạn thu hẹp khoảng cách đó. Và tôi nghĩ điều đó là đúng. Nhưng cũng để Uber làm được điều đó, họ đã phải thực sự chuyển đổi chính mình thành một công ty theo nhiều cách. Uber ban đầu và Uber hiện tại, tất cả các lĩnh vực kinh doanh khác nhau mà họ đã phải mở rộng, những cách khác nhau mà khách hàng và tài xế đã bị ép buộc, đó là những điều phải xảy ra để đạt được điểm mà nó có thể trở thành một công ty có lợi nhuận. Và tôi nghĩ bạn sẽ phải thấy những chuyển đổi tương tự đối với nhiều công ty AI này nếu họ muốn tồn tại. Sean: Liệu có cách nào để các phòng thí nghiệm này có thể bóp nghẹt từng đồng xu như Uber đã bóp nghẹt các tài xế trong những năm qua không? Có điều gì đủ linh hoạt để họ làm điều đó không? Tôi không biết. Điều này dường như là những chi phí khó khăn hơn, trực tiếp hơn theo nhiều cách, vì vậy sẽ rất thú vị.