Pinterest thay thế phương pháp phân cụm hành trình bằng LLM Qwen3 4B, ghi nhận mức độ tương tác được cải thiện

Trang chủ InfoQ Tin tức Pinterest thay thế phương pháp phân cụm hành trình bằng LLM Qwen3 4B, ghi nhận mức độ tương tác gia tăng Kiến trúc & Thiết kế Pinterest thay thế phương pháp phân cụm hành trình bằng LLM Qwen3 4B, ghi nhận mức độ tương tác gia tăng Ngày 9/11/2026 2 phút đọc bởi Matt Foster Theo dõi chúng tôi trên Youtube 232.000 người theo dõi Linkedin 26.000 người theo dõi Instagram Mới RSS 19.000 độc giả X 57,1 nghìn người theo dõi Facebook 21.000 lượt thích Bluesky Mới Nghe bài viết này - 0:00 Sẵn sàng phát âm thanh Trình duyệt của bạn không hỗ trợ phần tử âm thanh. 0:00 0:00 Chuẩn 1,25x 1,5x Thích Danh sách đọc Pinterest đã chuyển đổi hệ thống suy luận hành trình người dùng từ quy trình phân cụm đa giai đoạn sang mô hình ngôn ngữ 4 tỷ tham số được tinh chỉnh, ghi nhận tỷ lệ nhấp qua thư điện tử tăng 1,1% và tỷ lệ mở thông báo đẩy tăng 1,3%. Thay vì phân cụm từ khóa thành các mối quan tâm, mô hình này xem xét lịch sử hoạt động của người dùng để xác định các mục tiêu dài hạn, sau đó chuyển các hành trình đó vào hạ tầng gợi ý hiện có của Pinterest. Pinterest định nghĩa "hành trình" là một mục tiêu kết nối sở thích, ý định và ngữ cảnh qua nhiều phiên hoạt động. Ví dụ, một người đang sửa sang nhà bếp có thể tìm kiếm các thiết kế tủ bếp, lưu lại các ý tưởng về mặt bàn bếp, sau đó tìm hiểu về gạch ốp tường hoặc thiết bị chiếu sáng. Toàn bộ các tương tác này cho thấy một dự án mang tính liền mạch, thay vì nhiều sở thích không liên quan. ("Hành trình người dùng" - Nguồn: Pinterest) Hệ thống trước đây của doanh nghiệp này trích xuất từ khóa từ hoạt động của người dùng, nhóm chúng lại bằng các vector nhúng (embeddings) và phân cụm phân cấp, đặt tên cho các cụm thu được, đồng thời xếp hạng chúng bằng các mô hình bổ sung và phương pháp phỏng đoán tính đa dạng. Dù mang lại hiệu quả so với các thông báo dựa trên mối quan tâm trước đó, phương pháp này có thể làm phân mảnh các hoạt động liên quan thành những hành trình riêng biệt, tạo ra các nhãn chung chung hoặc nhầm lẫn giữa tương tác ngẫu nhiên với ý định dài hạn. Thay vào đó, hệ thống mới xem việc suy luận hành trình là một tác vụ khởi tạo. Mô hình LLM được tinh chỉnh sẽ đọc lịch sử theo trình tự thời gian với tối đa 150 hành động của người dùng trong khoảng thời gian 360 ngày, cùng với một hồ sơ người dùng thu gọn, từ đó tạo ra một tập hợp tên hành trình đã được xếp hạng. Các hành động tìm kiếm và lưu trữ có trọng số lớn hơn so với những lượt nhấp ngẫu nhiên, trong khi câu lệnh gợi ý (prompt) hướng dẫn mô hình cân nhắc mức độ tương tác lặp lại, tính cập nhật và độ cụ thể. ("Journey Inference" - Nguồn: Pinterest) Quá trình hợp nhất đã chuyển phần lớn cơ chế xếp hạng và lọc của hệ thống trước đây vào câu lệnh (prompt). Các chỉ dẫn ngăn chặn việc gộp các mối quan tâm không liên quan, loại bỏ các hoạt động đơn lẻ và các thẻ tạo tự động gây nhiễu, đồng thời cho phép trả về kết quả rỗng khi không có đủ bằng chứng về một hành trình có ý nghĩa. Pinterest xem các thay đổi đối với những chỉ dẫn này tương đương với các đợt phát hành sản phẩm chính thức thay vì chỉ là chỉnh sửa câu lệnh thông thường. Để xây dựng hệ thống mà không cần bộ dữ liệu lớn do con người dán nhãn, Pinterest đã sử dụng các mô hình tiên tiến (frontier models) để tạo dữ liệu huấn luyện tổng hợp từ lịch sử hoạt động của người dùng. Các dữ liệu mẫu này được dùng để tinh chỉnh các mô hình mở trọng số Qwen3 quy mô nhỏ hơn thông qua phương pháp tinh chỉnh có giám sát (supervised fine-tuning) và thích ứng hạng thấp (LoRA). Nhóm nghiên cứu đã thử nghiệm các mô hình từ 0,6B đến 8B tham số, sau đó chọn mô hình 4B nhằm cân đối giữa chất lượng suy luận và thông lượng phục vụ. Việc vận hành mô hình này trên quy mô của Pinterest là một thách thức kỹ thuật riêng biệt. Doanh nghiệp đã triển khai NVIDIA Dynamo phía trước các cụm xử lý vLLM chạy trên GPU L40S, sử dụng kỹ thuật tạo lô liên tục (continuous batching), PagedAttention và định tuyến nhận biết tiền tố bộ nhớ đệm (prefix-cache-aware routing) để nâng cao hiệu quả suy luận. (Kiến trúc Journey Inference - Nguồn: Pinterest) Tuy nhiên, một trong những cải tiến thông lượng lớn nhất lại đến từ việc loại bỏ hoàn toàn các quá trình suy luận không cần thiết. Hệ thống theo dõi thời điểm hành trình của từng người dùng được khởi tạo lần gần nhất và bỏ qua những người dùng đã được xử lý trong vài ngày trước đó. Pinterest đánh giá chất lượng hành trình thông qua các phép so sánh đối chiếu trực tiếp, một mô hình LLM độc lập đóng vai trò giám khảo để đánh giá mức độ liên quan và mức độ căn cứ từ hoạt động của người dùng, cùng các thử nghiệm trực tuyến. Thử nghiệm A/B ban đầu tại Mỹ và Canada ghi nhận tỷ lệ nhấp vào email tăng 1,1% và tỷ lệ mở thông báo đẩy (push-open) tăng 1,3% so với hệ thống dựa trên phân cụm trước đây, cùng với mức tăng có ý nghĩa thống kê về mức độ tương tác và tỷ lệ giữ chân người dùng. Cách tiếp cận này có nhiều điểm tương đồng với công trình nghiên cứu của Netflix về các mô hình nền tảng phục vụ gợi ý cá nhân hóa. Netflix đã mô tả việc học từ các chuỗi tương tác dài hạn của thành viên để tạo ra các biểu diễn có thể tái sử dụng cho các mô hình gợi ý ở hạ nguồn. Trong khi Netflix tập trung vào các biểu diễn sở thích có thể tái sử dụng, còn Pinterest tạo ra các mô tả hành trình cụ thể, thì cả hai phương pháp đều sử dụng lịch sử hành vi dài hạn nhằm làm phong phú thêm hạ tầng cá nhân hóa hiện có thay vì thay thế hoàn toàn. Về tác giả Matt Foster Xem thêmThu gọn Đánh giá bài viết này Mức độ ứng dụng Phong cách Đã liên hệ tác giả Nội dung này thuộc chủ đề AI tạo sinh Các chủ đề liên quan: Kiến trúc & Thiết kế AI, ML & Kỹ thuật dữ liệu Học máy Suy luận mô hình AI tạo sinh Các mô hình ngôn ngữ lớn Bài viết biên tập liên quan Nhà tài trợ liên quan Phổ biến trên InfoQ Uber xây dựng MCP Gateway để