Ứng dụng tính năng tóm tắt văn bản bằng LLM trong các pipeline Scikit-Learn với Scikit-LLM

--> Sử dụng tính năng tóm tắt văn bản bằng LLM trong quy trình Scikit-Learn với Scikit-LLM - KDnuggets --> Blog Bài viết hàng đầu Giới thiệu Chủ đề AI Lời khuyên nghề nghiệp Computer Vision (Thị giác máy tính) Data Engineering (Kỹ thuật dữ liệu) Data Science (Khoa học dữ liệu) Language Models (Mô hình ngôn ngữ) Machine Learning (Học máy) MLOps NLP (Xử lý ngôn ngữ tự nhiên) Lập trình Python SQL Bộ dữ liệu Sự kiện Tài nguyên Tài liệu tóm tắt (Cheat Sheets) Đề xuất Bản tin kỹ thuật Quảng cáo Đăng ký nhận bản tin Sử dụng tính năng tóm tắt văn bản bằng LLM trong quy trình Scikit-Learn với Scikit-LLM Tìm hiểu phương pháp xây dựng kiến trúc kết hợp các bộ ước lượng Scikit-LLM để tóm tắt văn bản với các phương pháp scikit-learn truyền thống thành một quy trình (pipeline) thống nhất duy nhất, nhằm tóm tắt và phân loại văn bản thô, phức tạp. Tác giả: Iván Palomares Carrascosa, Chuyên viên Nội dung Kỹ thuật của KDnuggets, ngày 3/11/2026, thuộc chuyên mục Mô hình ngôn ngữ --> Giới thiệu Việc ứng dụng các bộ phân loại học máy truyền thống, có cấu trúc gọn nhẹ đối với dữ liệu văn bản thường đòi hỏi quá trình cô đọng các đoạn văn bản thô dài và nhiều nhiễu thành tín hiệu rõ ràng để đạt hiệu quả cao. Do đó, việc ứng dụng mô hình ngôn ngữ lớn (LLM) để tóm tắt văn bản như một bước tiền xử lý trước khi đưa văn bản đã tinh chỉnh vào mô hình phân loại phía sau là hoàn toàn khả thi. Giải pháp này có thể được triển khai liền mạch trong một quy trình dựa trên scikit-learn truyền thống, nơi quá trình tóm tắt bằng LLM vận hành đồng thời cùng các bước tiền xử lý dữ liệu, huấn luyện và suy luận tiêu chuẩn. Quy trình này hoàn toàn có thể thực hiện thông qua các công cụ miễn phí. Bài viết này hướng dẫn phương pháp xây dựng một cấu trúc kết hợp các bộ ước lượng Scikit-LLM phục vụ tóm tắt văn bản với các phương pháp scikit-learn truyền thống thành một quy trình thống nhất duy nhất, nhằm tóm tắt và phân loại văn bản thô, phức tạp; qua đó tận dụng tối đa ưu thế của cả LLM lẫn các mô hình học máy kinh điển. Tích hợp tính năng tóm tắt bằng LLM vào quy trình học máy Ví dụ này có thể vận hành hoàn toàn trên nền tảng Google Colab, sử dụng API LLM của Groq nhằm tận dụng các mô hình miễn phí. Điều kiện tiên quyết là người dùng cần truy cập trang web của Groq, đăng ký tài khoản và tạo mã khóa API (API key) cá nhân. Sau khi tạo mã, người dùng sao chép cẩn thận khóa API (khóa chỉ hiển thị một lần duy nhất) và dán dưới dạng một biến bí mật ("Secret") mới trong Google Colab tại biểu tượng hình chìa khóa ở thanh công cụ bên trái. Đặt tên cho biến bí mật này là GROQ_API_KEY. Tiếp theo, tiến hành cài đặt thư viện Scikit-LLM trên sổ làm việc (notebook): !pip install scikit-llm -q Chuyển sang phần mã nguồn Python. Bước đầu tiên là thiết lập cấu hình môi trường cho Scikit-LLM, điều hướng các yêu cầu qua API của Groq thay vì API mặc định của OpenAI. Thao tác này hỗ trợ khai thác các mô hình tiền huấn luyện miễn phí, tiện dụng và hiệu quả của Groq, đồng thời tối ưu hóa chi phí tính toán trên từng đơn vị từ khóa (token). from google.colab import userdata from skllm.config import SKLLMConfig # Truy xuất khóa API và định tuyến đến điểm cuối tương thích OpenAI thuộc gói miễn phí của Groq groq_key = userdata.get('GROQ_API_KEY') SKLLMConfig.set_gpt_url("https://api.groq.com/openai/v1") SKLLMConfig.set_openai_key(groq_key) Tiếp theo là bước xác định dữ liệu "huấn luyện". Dữ liệu này bao gồm một tập hợp nhỏ các tài liệu ban đầu cùng các nhãn tương ứng. Các tài liệu được chủ đích xây dựng với độ dài lớn, chứa thông tin nhiễu và dài dòng, tương tự nhiều tình huống trong thực tế. Nếu không thực hiện tóm tắt trước để trích xuất các tín hiệu trọng yếu từ văn bản, việc trực tiếp tạo lập các biểu diễn số học tương thích với học máy từ những văn bản này sẽ tất yếu dẫn đến sự lan truyền của các yếu tố gây nhiễu: # Các tài liệu thô, dài và nhãn phân loại tương ứng X_long_texts = [ "Hiệu suất của công nghệ pin năng lượng mặt trời mới đã tăng 15% nhờ lớp perovskite cải tiến, giúp hạ thấp đáng kể rào cản tiếp cận đối với quy mô hộ gia đình và thúc đẩy việc ứng dụng năng lượng xanh thông qua việc lắp đặt với chi phí rẻ hơn, thời gian nhanh hơn bao giờ hết.", "Các thị trường tài chính ghi nhận mức sụt giảm mạnh trong ngày hôm nay sau đợt tăng lãi suất bất ngờ của ngân hàng trung ương, dẫn đến làn sóng bán tháo ồ ạt trong lĩnh vực công nghệ và khiến các chỉ số biến động chạm mức cao nhất trong hơn ba năm qua.", "Thử nghiệm lâm sàng đối với loại thuốc điều trị viêm khớp mới cho thấy kết quả khả quan, giúp giảm 40% tình trạng sưng khớp ở nhóm đối chứng mà không gây tác dụng phụ nghiêm trọng; hiện thử nghiệm đang chờ cơ quan FDA phê duyệt, mở ra triển vọng điều trị cho hàng triệu bệnh nhân mắc các rối loạn tự miễn." ] y_labels = ["Energy", "Finance", "Healthcare"] Tương tự phương pháp phân loại ít mẫu (few-shot classification), quy trình chỉ yêu cầu một tập hợp nhỏ các mẫu huấn luyện mang tính đại diện để định hướng khả năng suy luận cho mô hình LLM được tải sau đó. Trên thực tế, không có quá trình huấn luyện trực tiếp nào diễn ra đối với mô hình LLM. Bước tiếp theo đóng vai trò then chốt: thiết lập quy trình ba bước cho tác vụ phân loại bằng học máy, được tiến hành sau giai đoạn tóm tắt bằng LLM. Qua đó, quy trình tích hợp các năng lực của Scikit-LLM nhằm đáp ứng các tác vụ cụ thể trên các mô hình LLM đã được huấn luyện trước vào một quy trình học máy tổng thể. Đoạn mã dưới đây sử dụng đối tượng GPTSummarizer để đóng gói một mô hình Groq tương thích phục vụ việc tóm tắt, cụ thể là openai/gpt-oss-20b. Bước tóm tắt sau đó được nhúng vào quy trình scikit-learn, tiếp nối bởi phương pháp tần suất thuật ngữ - nghịch đảo tần suất văn bản (TF-IDF) nhằm thu được các biểu diễn văn bản từ phần tóm tắt thay vì từ các văn bản dài ban đầu. Cuối cùng, mô hình thiết lập và huấn luyện một bộ phân loại hồi quy logistic bằng tập nhãn đã xác định trước đó. from sklearn.pipeline import Pipeline from sklearn.feature_extraction.text import TfidfVectorizer from sklearn.linear_model import LogisticRegression from skllm.models.gpt.text2text.summarization import GPTSummarizer # QUY TRÌNH HỌC MÁY BA BƯỚC CHO PHÂN LOẠI VĂN BẢN, TIẾN HÀNH SAU TÓM TẮT # 1. Bộ tóm tắt: Rút gọn các tài liệu dài bằng mô hình tương thích trên Groq # 2. Bộ vector hóa: Chuyển đổi các bản tóm tắt ngắn gọn thành các vector TF-IDF dạng số # 3. Bộ phân loại: Học cách phân loại các vector TF-IDF bằng mô hình Hồi quy Logistic tiêu chuẩn text_pipeline = Pipeline([