Kiến trúc ẩn đằng sau mọi tác nhân AI vượt trội

Câu chuyện dành cho thành viên Kiến trúc ẩn đằng sau mọi tác nhân AI vĩ đại Ramakrushna Mohapatra 10 phút đọc Vừa xong -- Nghe Chia sẻ Nhấn Enter hoặc nhấp để xem ảnh toàn màn hình Vài năm trước, việc xây dựng các ứng dụng AI đơn giản đến bất ngờ. Nếu muốn xây dựng một chatbot, một công cụ tóm tắt tài liệu hoặc một trợ lý viết AI, người dùng chỉ cần hai thứ. Một mô hình ngôn ngữ lớn (LLM) và một lời nhắc (prompt) được viết tốt. Các nhà phát triển đã dành hàng giờ để thử nghiệm các hướng dẫn khác nhau. Họ thay đổi cách diễn đạt, thêm ví dụ, gán vai trò cho mô hình và dần dần phát hiện ra rằng ngay cả những thay đổi nhỏ trong lời nhắc cũng có thể tạo ra các kết quả đầu ra khác biệt đáng kể. Quá trình đó cuối cùng được gọi là kỹ thuật nhắc lệnh (prompt engineering). Trong một thời gian, kỹ thuật nhắc lệnh được coi là thành phần bí mật đằng sau mọi ứng dụng AI thành công. Mạng xã hội tràn ngập các thư viện nhắc lệnh. Các công ty bắt đầu tuyển dụng kỹ sư nhắc lệnh. Toàn bộ các khóa học xuất hiện để dạy mọi người cách "nói chuyện" với các mô hình ngôn ngữ hiệu quả hơn. Và thành thật mà nói, điều đó có lý. Các mô hình ngôn ngữ lớn có khả năng đáng kinh ngạc, nhưng chúng chỉ biết những gì người dùng nói với chúng. Các hướng dẫn tốt hơn thường tạo ra câu trả lời tốt hơn. Sau đó, các công ty bắt đầu xây dựng các sản phẩm AI thực sự. Không phải chatbot trả lời các câu hỏi chung chung. Mà là các sản phẩm tìm kiếm tài liệu riêng tư. Các trợ lý mã hóa hiểu toàn bộ kho lưu trữ. Các tác nhân hỗ trợ khách hàng truy cập CRM...