Quá trình ứng dụng Hermes Agent, Ollama và các mô hình cục bộ

Trải nghiệm ứng dụng Hermes Agent, Ollama và các mô hình cục bộ - KDnuggets Blog Bài viết nổi bật Giới thiệu Chủ đề AI Tư vấn nghề nghiệp Thị giác máy tính Kỹ thuật dữ liệu Khoa học dữ liệu Mô hình ngôn ngữ Học máy MLOps NLP Lập trình Python SQL Tập dữ liệu Sự kiện Tài nguyên Bảng tra cứu Khuyến nghị Bản tin công nghệ Quảng cáo Đăng ký nhận bản tin Ứng dụng Hermes Agent, Ollama và các mô hình cục bộ Xây dựng hệ thống lập kế hoạch du lịch đa tác tử (multi-agent) cục bộ với Hermes Agent và Ollama: gồm một tác tử điều phối và ba tác tử chuyên trách nhằm nghiên cứu điểm đến, gợi ý nơi lưu trú và tạo liên kết tìm kiếm thực tế trên Google Flights. Tác giả: Shittu Olumide, Chuyên viên Nội dung Kỹ thuật, ngày 5/11/2026, chuyên mục Trí tuệ nhân tạo Nhu cầu thực tế đặt ra là xây dựng một tác tử AI có khả năng hỗ trợ lập kế hoạch chuyến đi, nghiên cứu điểm đến, gợi ý nơi lưu trú và tìm kiếm chuyến bay thực tế mà không cần trả phí thuê bao, không gửi dữ liệu truy vấn lên nhà cung cấp đám mây và không làm phát sinh chi phí hàng tháng theo tần suất sử dụng. Quá trình tìm kiếm giải pháp đã dẫn tới hai công cụ đáng chú ý: Hermes Agent và Ollama. Bài viết này giới thiệu một dự án thực tế được phát triển từ việc kết hợp hai công cụ trên: một hệ sinh thái nghiên cứu du lịch đa tác tử đã được thử nghiệm, vận hành hoàn chỉnh trên phần cứng cục bộ. Trước khi tiến hành cài đặt, việc nắm rõ bản chất và thế mạnh riêng biệt của từng công cụ đóng vai trò then chốt đối với sự thành công của dự án. Giới thiệu Hermes Agent Hermes Agent là tác tử AI nguồn mở do Nous Research phát triển, phát hành theo giấy phép MIT và hiện ở phiên bản 0.21.1 tại thời điểm viết bài. Ứng dụng được cung cấp dưới hai hình thức: ứng dụng chạy trực tiếp trên máy tính để bàn dành cho macOS, Windows, Linux và giao diện dòng lệnh (CLI). Cả hai phiên bản đều sở hữu đầy đủ tính năng cốt lõi của tác tử, không bị cắt giảm. Điểm khác biệt giữa Hermes và một chatbot thông thường nằm ở năng lực tác tử thực thụ. Hệ thống có khả năng đọc và chỉnh sửa các tệp tin trên máy, thực thi các lệnh terminal và truy cập trang web trực tiếp. Đây là sự kết hợp chuẩn xác mà dự án du lịch này yêu cầu: một tác tử có thể tìm kiếm thông tin điểm đến theo thời gian thực và hành động dựa trên kết quả tìm được, thay vì chỉ mô tả lại quy trình thực hiện. Một số tính năng có ý nghĩa đặc biệt đối với dự án này. Khả năng điều phối đa tác tử cho phép một tác tử trung tâm phân bổ nhiệm vụ cụ thể cho các tác tử chuyên môn phụ trách và tổng hợp kết quả; đây chính là cấu trúc nền tảng của hệ thống du lịch được xây dựng dưới đây. Bộ nhớ liên tục (persistent memory) giúp Hermes ghi nhớ chi tiết qua các phiên làm việc — như mức ngân sách đề ra, chuyến đi trước đây, sở thích du lịch — thay vì phải thiết lập lại từ đầu mỗi khi khởi động. Tính năng hỗ trợ giao thức Model Context Protocol (MCP) giúp tác tử kết nối với bất kỳ máy chủ MCP nào, bao gồm công cụ tìm kiếm web trong môi trường hộp cát (sandbox) chạy trên vùng chứa (container) biệt lập; cùng với đó, khả năng tích hợp công cụ tùy chỉnh giúp mở rộng tính năng vượt ra ngoài các tiện ích mặc định, cho phép tích hợp công cụ tìm kiếm chuyến bay thực tế được giới thiệu trong bài viết. Tìm hiểu về Ollama và các mô hình cục bộ Hermes cần một mô hình ngôn ngữ để vận hành tư duy, và đó là nhiệm vụ của Ollama. Ollama là công cụ mã nguồn mở giúp tải xuống, quản lý và vận hành các mô hình ngôn ngữ lớn trực tiếp trên máy tính cá nhân. Công cụ này cung cấp một API cục bộ hoạt động tương tự dịch vụ của các nhà cung cấp điện toán đám mây, với địa chỉ trỏ về máy chủ nội bộ (localhost) thay vì không gian mạng Internet. Đặc điểm này giúp việc kết nối trở nên khả thi: do API của Ollama tương thích với chuẩn OpenAI, Hermes có thể giao tiếp với mô hình chạy hoàn toàn trên máy cục bộ bằng quy trình tích hợp tương tự như với bất kỳ mô hình đám mây nào. Khái niệm "mô hình cục bộ" cũng là một nội dung quan trọng cần được làm rõ. Thay vì gửi câu hỏi cùng tài liệu lên hệ thống máy chủ của bên thứ ba và trả phí theo dung lượng token, người dùng vận hành một mô hình trọng số mở (open-weight) — mô hình có các tham số nền tảng được công bố công khai và cho phép tải xuống — hoàn toàn trên CPU hoặc GPU cá nhân. Không có dữ liệu nào rời khỏi thiết bị ngoại trừ các truy vấn tìm kiếm web cụ thể do tác nhân (agent) thực hiện. Người dùng cũng không phải chi trả hóa đơn dịch vụ, ngoài chi phí điện năng tiêu thụ trong quá trình xử lý của máy tính. Sự đánh đổi này mang tính khách quan và cần được nhìn nhận thẳng thắn: một mô hình cục bộ trên phần cứng thương mại phổ thông không thể đạt tới năng lực xử lý thô của các mô hình đám mây tiên tiến, đồng thời thường vận hành chậm hơn, đặc biệt khi thiếu GPU. Tuy nhiên, đối với một dự án như trong bài viết này — bao gồm hoạt động nghiên cứu, lập kế hoạch và vận hành công cụ — sự đánh đổi này hoàn toàn hợp lý và mang lại hiệu quả cao. Sau khi đã làm rõ hai công cụ trên, dưới đây là dự án thực tế được xây dựng từ sự kết hợp này. Phác thảo ý tưởng Dự án — tạm gọi là Wanderlist — hoạt động theo cơ chế: tiếp nhận điểm đến theo yêu cầu, sau đó một nhóm tác nhân AI cục bộ được phối hợp đồng bộ sẽ tiến hành nghiên cứu thông tin điểm đến, đề xuất các địa danh tiêu biểu, gợi ý cơ sở lưu trú uy tín và cung cấp đường dẫn tìm kiếm chuyến bay thực tế có thể sử dụng ngay. Không có bất kỳ yêu cầu dữ liệu nào rời khỏi thiết bị ngoài các tác vụ tìm kiếm web trực tiếp, đồng thời không phát sinh phí thuê bao hay đòi hỏi mã khóa API ngoài các dịch vụ hoàn toàn miễn phí. Bốn nhiệm vụ cụ thể được phân bổ tương ứng cho từng tác nhân trong nhóm: nghiên cứu điểm đến cùng các quy định nhập cảnh hiện hành; đề xuất các địa điểm tham quan thực sự giá trị; cung cấp hướng dẫn lưu trú đáng tin cậy; và thiết lập liên kết tìm kiếm chuyến bay thực tế để người dùng có thể truy cập, sử dụng ngay lập tức. Kiểm tra điều kiện tiên quyết và cài đặt Ollama Yêu cầu phần cứng then chốt là khả năng vận hành mô hình có hỗ trợ cơ chế gọi công cụ (tool-calling) thực tế. Một nhóm nghiên cứu du lịch vừa có thể tìm kiếm dữ liệu trên web, vừa có thể gọi các công cụ tùy chỉnh đòi hỏi mô hình phải đáp ứng đầy đủ cả hai năng lực này. Thành phần Tối thiểu Khuyến nghị RAM 8 GB Từ 24 GB trở lên (cho mô hình phân khúc 31B) Dung lượng lưu trữ 5 GB trống Từ 25 GB trở lên CPU 4 nhân Từ 8 nhân trở lên GPU Không bắt buộc GPU NVIDIA với VRAM từ 8 GB trở lên Cài đặt Ollama: curl -fsSL https://ollama.com/install.sh | sh Tải về mô hình có hỗ trợ cơ chế gọi công cụ thực tế. Nguyên lý nêu trên tiếp tục được áp dụng tại đây: một mô hình thiếu tính năng này chỉ có thể trò chuyện đơn thuần, nhưng không thể thực sự phân nhiệm công việc.