Engram hiện đã được cung cấp rộng rãi.

Chúng tôi vui mừng thông báo Engram hiện đã được cung cấp rộng rãi. Engram là dịch vụ bộ nhớ và ngữ cảnh được quản lý của chúng tôi, được xây dựng có mục đích để giúp các tác nhân (agent) điều phối quy trình làm việc, học hỏi từ kinh nghiệm và đưa ra quyết định dựa trên kiến thức đáng tin cậy. Nếu quý vị đã theo dõi công việc của chúng tôi về bộ nhớ cho các tác nhân — từ khung khái niệm trong "The Limit in the Loop" đến phân tích chuyên sâu về kiến trúc — thì hôm nay là ngày chúng tôi mở cửa để quý vị bắt đầu xây dựng với Engram. Bộ nhớ là cơ sở hạ tầng Các tác nhân mà chúng tôi xây dựng được cho là sẽ tăng giá trị theo thời gian. Chúng nên xây dựng các tương tác, tích lũy ngữ cảnh và trở nên hữu ích hơn khi chúng chạy lâu hơn. Tuy nhiên, trên thực tế, việc tăng giá trị này không xảy ra và việc sử dụng tác nhân thậm chí có thể phản tác dụng, do ba chế độ lỗi: Suy giảm ngữ cảnh dài. Gửi toàn bộ cuộc hội thoại trở lại các mô hình trong mỗi lượt làm tăng độ trễ và chi phí. Quan trọng hơn, điều này có thể khiến chất lượng câu trả lời giảm xuống giữa các đầu vào dài ngay cả với các cửa sổ ngữ cảnh hiện đại. Dữ liệu thô lộn xộn. Tương tác của người dùng ồn ào và các sự kiện thay đổi theo thời gian. Việc chất đống các sự kiện thô vào một kho dữ liệu và yêu cầu một LLM (mô hình ngôn ngữ lớn) đối chiếu chúng tại thời điểm truy vấn đẩy phần khó nhất của vấn đề đến nơi tồi tệ nhất để giải quyết. Phân mảnh ngữ cảnh đa tác nhân. Ngay khi một yêu cầu duy nhất vượt qua các tác nhân, các mẫu bộ nhớ tích hợp sẽ sụp đổ. Thay vào đó, bộ nhớ dùng chung, bền vững và có phạm vi là cần thiết để điều phối các quy trình làm việc ngoài các vòng lặp tác nhân đơn lẻ. Những vấn đề này nằm trên con đường quan trọng dẫn đến thành công cho bất kỳ tác nhân cấp sản xuất nào và có cấu trúc sâu sắc. Giải pháp không phải là một bản vá ở lớp nhắc lệnh (prompt layer), mà là quản lý bộ nhớ và ngữ cảnh có hệ thống. Bộ nhớ không được là một phần bổ sung hời hợt mà nên được coi là một thành phần cơ sở hạ tầng có chủ ý theo cách tương tự như lưu trữ, truy xuất và khả năng quan sát. Engram là gì Engram là một dịch vụ được quản lý biến các sự kiện tác nhân thô, ồn ào thành các bộ nhớ có cấu trúc, bền vững, có phạm vi và phục vụ chúng trở lại thông qua khả năng truy xuất từ khóa và ngữ nghĩa lai của Weaviate. Đây là một lớp bộ nhớ mà quý vị có thể tin cậy, kế thừa sự trưởng thành của cơ sở dữ liệu Weaviate. Các đường ống (pipeline) không đồng bộ chạy trong nền để trích xuất thông tin liên quan, đối chiếu nó với những gì đã biết trong khi xử lý việc loại bỏ trùng lặp, thay đổi tùy chọn và các sự kiện thay đổi theo thời gian, đồng thời duy trì trạng thái bộ nhớ sạch. Các mẫu trường hợp sử dụng để cá nhân hóa có sẵn ngay từ ngày đầu tiên với các mẫu để học liên tục và trạng thái đa tác nhân sẽ có sẵn trong những tuần tiếp theo. Các nhóm vượt quá khả năng của chúng có thể chuyển sang kiểm soát đường ống trực tiếp mà không cần rời khỏi nền tảng. Để biết chi tiết về kiến trúc — các đường ống, chủ đề, phạm vi và bộ đệm — hãy xem phân tích chuyên sâu về Engram. Con đường từ bản xem trước đến GA (General Availability - khả dụng rộng rãi) được định hình bởi các trường hợp sử dụng thực tế; việc đưa Engram vào các tình huống khác nhau đã làm nổi bật những thay đổi xác định khả năng sẵn sàng sản xuất: các đường ống bền hơn, trích xuất và chuyển đổi hiệu quả hơn, và đối chiếu xác định tránh trôi bộ nhớ. Sự củng cố này nằm bên dưới mọi thứ quý vị nhận được với Engram: Bộ nhớ được duy trì tích cực thay vì một khối ngữ cảnh ngày càng lớn. Các đường ống trích xuất, loại bỏ trùng lặp và đối chiếu với những gì đã biết, do đó trạng thái bộ nhớ vẫn sạch khi các tương tác tích lũy. Thực hiện và quên ở tầng ứng dụng. Các đường ống bộ nhớ chạy không đồng bộ và bền bỉ trong nền; đường dẫn nóng không bao giờ bị chặn bởi I/O bộ nhớ. Được hỗ trợ bởi độ bền cấp độ Temporal, đảm bảo các lỗi cục bộ được phục hồi sạch sẽ và các cam kết vẫn nguyên tử. Các mẫu cho trường hợp phổ biến, các nguyên thủy cho mọi thứ khác. Cá nhân hóa, học liên tục và trạng thái đa tác nhân được cung cấp dưới dạng các mẫu sẵn sàng triển khai. Các nhóm cần kiểm soát nhiều hơn có thể sử dụng các nguyên thủy đường ống cơ bản mà không cần thay đổi nền tảng. Phạm vi tích hợp ngay từ đầu. Sự cô lập theo từng dự án, từng người dùng và từng thuộc tính là một phần của nguyên thủy (không phải là một tính năng được thêm vào sau này), do đó các bộ nhớ phù hợp sẽ hiển thị cho người gọi phù hợp ngay từ khi xây dựng. Truy xuất thống nhất trên Weaviate. Bộ nhớ kế thừa khả năng tìm kiếm kết hợp, đặc tính mở rộng và hồ sơ hoạt động của Weaviate. Không có hệ thống song song nào cần triển khai, bảo mật hoặc vận hành. Ai nên sử dụng Engram Engram dành cho các nhóm có tác nhân đã vượt ra ngoài một lượt tương tác: các trợ lý nên ghi nhớ người dùng qua các phiên, các tác nhân nên cải thiện từ phản hồi thay vì lặp lại lỗi, và các hệ thống đa tác nhân cần chia sẻ trạng thái có phạm vi. Nếu bạn đang xây dựng một trong số này, bạn gần như chắc chắn đã tự xây dựng một phiên bản bộ nhớ. Nó thường bắt đầu dưới một trong số ít dạng: gửi toàn bộ cuộc hội thoại trở lại mô hình trong mỗi lượt, tự tay cắt tỉa một tệp MEMORY.md, lưu trữ các sự kiện thô dưới dạng bộ nhớ trực tiếp trong một kho dữ liệu, hoặc chạy một nhà cung cấp bộ nhớ độc lập cùng với ngăn xếp truy xuất của bạn. Mỗi cách đều hoạt động trong một khoảng phức tạp nhất định trước khi bị phá vỡ do các lý do trên: suy giảm ngữ cảnh khi phát triển, dữ liệu thô không được đối chiếu và phân mảnh bộ nhớ giữa nhiều tác nhân. Engram là những gì ở phía bên kia của sự phá vỡ đó: đối chiếu chủ động thay vì tích lũy, các đường ống bền bỉ thay vì các tác dụng phụ đồng bộ, và một nền tảng cho bộ nhớ và truy xuất thay vì hai. Bắt đầu với Engram Engram hiện đã có sẵn rộng rãi trong Weaviate Cloud. Bắt đầu gia tăng giá trị của các tác nhân của bạn ngay hôm nay với gói miễn phí của chúng tôi. Khởi tạo dự án đầu tiên của bạn chỉ với vài cú nhấp chuột: Tạo một dự án Engram mới. Bảng điều khiển dự án. Đọc tài liệu Engram Để biết toàn bộ câu chuyện kiến trúc, hãy xem phần tìm hiểu sâu về Engram Đăng ký nhận bản tin Weaviate Agents để cập nhật sản phẩm và các phương pháp hay nhất Sẵn sàng bắt đầu xây dựng? Kiểm tra hướng dẫn Quickstart, hoặc xây dựng các ứng dụng tuyệt vời với bản dùng thử miễn phí của Weaviate Cloud (WCD). GitHub Diễn đàn X (Twitter) Không muốn bỏ lỡ một bài đăng blog nào khác? Đăng ký nhận bản tin hai tuần một lần của chúng tôi để cập nhật thông tin! Bằng cách gửi, tôi đồng ý với Điều khoản dịch vụ và Chính sách quyền riêng tư.