
Bạn không lãng phí token vì viết quá nhiều. Bạn lãng phí chúng vì ghi nhớ quá nhiều.
Mọi người thường khuyên bạn nên "viết các câu lệnh ngắn hơn" để tiết kiệm chi phí AI. Điều này hầu hết là sai. Dưới đây là lý do thực sự khiến hóa đơn token của bạn cao... Tiếp tục đọc trên Towards AI »
Câu chuyện dành cho thành viên
Bạn không lãng phí token vì viết quá nhiều. Bạn lãng phí chúng vì ghi nhớ quá nhiều.
Mọi người đều khuyên bạn nên "viết lời nhắc ngắn hơn" để tiết kiệm tiền khi sử dụng AI. Điều đó hầu hết là sai. Đây là lý do thực sự khiến hóa đơn token của bạn cao, được giải thích theo cách tôi sẽ nói với một người bạn khi uống cà phê.
Ashish Nishad
6 phút đọc
1 giờ trước
--
Nghe
Chia sẻ
Nhấn enter hoặc nhấp để xem hình ảnh ở kích thước đầy đủ
Tuần trước, một người bạn hỏi tôi tại sao hóa đơn chatbot AI của anh ấy cứ tăng lên mặc dù anh ấy hầu như không thay đổi gì. Lý thuyết đầu tiên của anh ấy: "Tôi đoán tôi cần viết lời nhắc ngắn hơn." Một phỏng đoán hợp lý. Đồng thời, hầu hết là sai.
Đây là điều không ai nói trước cho bạn: những từ bạn gõ hiếm khi là vấn đề. Chi phí thực sự ẩn trong mọi thứ mà AI phải đọc lại ở hậu trường, mỗi lần, chỉ để trả lời thêm một tin nhắn. Một hướng dẫn chi tiết năm 2026 đã nêu rõ luận điểm thực tế: tối ưu hóa token là một vấn đề kỹ thuật ngữ cảnh, không phải là vấn đề rút ngắn lời nhắc. Các nhóm lãng phí thời gian để làm cho lời nhắc ngắn hơn trong khi các yếu tố thúc đẩy chi phí thực sự là ngữ cảnh cồng kềnh, lược đồ công cụ nhàn rỗi và lịch sử hội thoại cũ.
Vì vậy, hãy khắc phục đúng vấn đề. Tôi sẽ giải thích từng ý tưởng một cách đơn giản, sau đó là cách "tại sao nó thực sự hoạt động" – không có thuật ngữ nào không được giải thích.
Ý tưởng 1: ngừng phát lại toàn bộ cuộc trò chuyện mỗi lần

Nguồn tin: Medium Towards AI — Tác giả: Ashish Nishad. Bản dịch tiếng Việt do AI thực hiện, có thể có sai sót.