Cơ chế học tập trên thực tế của AI: Phân tích quá trình lan truyền ngược (Backpropagation), thuật toán AdamW và Rank-8 LoRA qua thực nghiệm trên mô hình Qwen3–4B

Từ một trọng số và mạng Perceptron đến các gradient 36 tầng, rào cản bộ nhớ VRAM 68,87 GB ở độ chính xác hỗn hợp và bản cập nhật Rank-8 LoRA trong 21,9 giây trên GPU NVIDIA RTX PRO 6000 Blackwell Tác giả: Arun Prabhakaran · @LatentAILabs Hình 1: Dữ liệu đo từ xa và hạch toán bộ nhớ GPU trong thời gian thực đối với mô hình Qwen3–4B-Instruct-2507 trên GPU NVIDIA RTX PRO 6000 Blackwell. Quá trình tinh chỉnh toàn phần (full fine-tuning) ở độ chính xác hỗn hợp 16 byte tiêu chuẩn đòi hỏi 68,87 GB VRAM, trong khi phương pháp Rank-8 LoRA huấn luyện 16,52 triệu trọng số adapter (chiếm 0,41% mô hình nền 4,02 tỷ tham số, tương đương 198,18 MB trạng thái FP32 adapter cộng AdamW) trong 21,92 giây và hợp nhất trực tiếp vào các trọng số nền mà không làm tăng độ trễ suy luận. Hình ảnh do tác giả cung cấp.Xem video đi kèm thời lượng 25 phút trên YouTube (@LatentAILabs): https://medium.com/media/9cfefc194fdd60416acd09c50a3b0a05/hrefXem video ngắn 60 giây trên YouTube Short về Rank-8 LoRA và lý do B = 0: Cách Rank-8 LoRA thu nhỏ 10,5 triệu trọng số xuống 197 lần và lý do B=0 Phần mở đầu: Lý do việc nạp một dữ kiện mới vào mô hình 8 GB có thể gây tràn bộ nhớ GPU 24 GB Khi nạp mô hình Qwen/Qwen3-4B-Instruct-2507 lên GPU ở định dạng bfloat16 (2 byte cho mỗi tham số), 4.022.468.096 tham số của mô hình chiếm 8,04 GB bộ nhớ (7,49 GiB). Quá trình suy luận vận hành thuận lợi trên các dòng GPU thương mại phổ thông có dung lượng từ 12 GB đến 16 GB. Giả định mô hình tiền huấn luyện này nhận một câu hỏi kỹ thuật chuyên sâu từ tài liệu hướng dẫn tàu vũ trụ vốn không nằm trong tập dữ liệu tiền huấn luyện: Dữ liệu đầu vào: “Trong bộ thu phát của tàu vũ trụ Helios-9, mã trạng thái HX-407 biểu thị chính xác lỗi gì và quy trình xử lý khắc phục là gì?” Thông số kỹ thuật chuẩn: “Mã trạng thái HX-407 biểu thị hiện tượng trôi cộng hưởng van áp điện của bộ làm mát lạnh sâu vượt quá 42 Kelvin. Quy trình xử lý là chuyển điện áp phân cực laser sang bus phụ Aux-Bus-B.” Đầu ra của mô hình Qwen3–4B chưa qua tinh chỉnh (Bước 0, ghi nhận thực tế): “Mã trạng thái HX-407 trong bộ thu phát của tàu vũ trụ Helios-9 biểu thị sự cố ở mô-đun dao động tần số cao, và biện pháp khắc phục là tiến hành thiết lập lại mềm bộ thu phát đồng thời thực hiện chẩn đoán…” Do các trọng số tiền huấn luyện chưa từng được nạp thông số kỹ thuật của HX-407, mô hình đã tạo ra câu trả lời sai lệch nhưng có văn phong tự nhiên (hiện tượng ảo giác). Nếu tiến hành nạp thông số này bằng phương pháp tinh chỉnh toàn phần độ chính xác hỗn hợp (BF16/FP32) theo lý thuyết giáo khoa trên toàn bộ 4,02 tỷ trọng số, hai trở ngại kỹ thuật sẽ lập tức xuất hiện: 1. Rào cản VRAM 68,87 GB ở độ chính xác hỗn hợp: Việc phân bổ các gradient định dạng BF16, trọng số chính (master weights) định dạng FP32 cùng các trạng thái mô-men bậc một và bậc hai của thuật toán tối ưu hóa AdamW định dạng FP32 cho 4,02 tỷ tham số sẽ tiêu tốn 64,36 GB (16 byte cho mỗi tham số), cộng thêm 4,51 GB bộ nhớ kích hoạt lan truyền xuôi — tổng cộng 68,87 GB (gấp 8,57 lần dung lượng trọng số khi suy luận, được tính toán từ cấu trúc phân bổ 16 byte cộng với lượng kích hoạt ước tính 4,51 GB, không phải từ lượt chạy đo trực tiếp), vượt quá sức chứa của một GPU 24 GB hoặc 48 GB. 2. Hiện tượng ghi đè các định hướng đã được tiền huấn luyện: Việc áp dụng trực tiếp các bản cập nhật dày đặc với cường độ cao vào ma trận W_0 sẽ làm biến đổi các ma trận trọng số tiền huấn luyện vốn lưu trữ năng lực suy luận và ngôn ngữ tổng quát. Quá trình quên thảm khốc (catastrophic forgetting) là một nguy cơ đã được ghi nhận trong các tài liệu khoa học (Biderman và cộng sự, 2024), dù đợt chạy ngắn hạn trong thử nghiệm này chưa ghi nhận hiện tượng trên (xem Phần 7). Hình 2: Năm cơ chế học máy cốt lõi được xây dựng từ các nguyên lý cơ bản và được xác minh qua dữ liệu đo từ xa trên GPU với mô hình Qwen3–4B: (1) Trọng số, Độ lệch (Bias), Perceptron, MLP và Ma trận trọng số. (2) Logit, Softmax, Hàm mất mát Cross-Entropy và Lan truyền ngược. (3) Triệt tiêu Gradient so với Kết nối tắt phần dư (Residual Skip Connections). (4) Bộ nhớ độ chính xác hỗn hợp 16 byte và Thuật toán tối ưu hóa AdamW. (5) Các ma trận Rank-8 LoRA (A, B) và Hợp nhất không độ trễ. Hình ảnh do tác giả cung cấp.Trong Tập 7 của chuỗi nội dung How AI Actually Works do @LatentAILabs thực hiện, quá trình phân tích cách thức một mạng thần kinh n mạng nơ-ron học từ một trọng số dấu phẩy động đơn lẻ cho đến một mô hình Transformer 4 tỷ tham số tái cấu trúc trên GPU NVIDIA RTX PRO 6000 Blackwell (94,97 GiB VRAM). Phần 1: Trọng số, Độ lệch, Perceptron và MLP trong Mạng nơ-ron là gì? Một mạng nơ-ron lưu trữ toàn bộ tri thức dưới dạng các số thực dấu phẩy động có thể học được, gọi là trọng số (w) và độ lệch (b). Một Perceptron tính toán tổng có trọng số của các đầu vào cộng với độ lệch và áp dụng một hàm kích hoạt phi tuyến (y = sigma(w · x + b)). Việc xếp chồng các Perceptron thành các lớp mở rộng và lớp chiếu sẽ tạo ra một Perceptron đa tầng (MLP), được tính toán dưới dạng các ma trận trọng số dày đặc (W). Bước 1.1: Một trọng số đơn lẻ có thể học được (y = w · x) Trước khi xem xét 4,02 tỷ tham số, hãy cô lập một kết nối vô hướng đơn lẻ nhân giá trị kích hoạt đầu vào x với một trọng số có thể học được w. Hình 3: Đơn vị học tập nhỏ nhất của mạng nơ-ron. Giá trị kích hoạt đầu vào x = 2,0 được nhân với trọng số có thể học được w = 0,40 để tạo ra y = 0,80 so với mục tiêu y_true = 1,00. Sử dụng gradient dL/dw = -0,80 với tốc độ học 0,125 sẽ cập nhật w từ 0,40 lên 0,50 để y khớp với y_true. Hình ảnh do tác giả cung cấp. Giả sử đầu vào là x = 2,0, mục tiêu là y_true = 1,00 và trọng số ban đầu là w = 0,40: Lan truyền tiến (Forward Pass): Kết nối tính toán y = w · x = 0,40 × 2,0 = 0,80. Hàm mất mát sai số bình phương (Squared Error Loss - L): Phép đo (y - y_true)^2 = (0,80 - 1,00)^2 = 0,04 cho thấy kết quả dự đoán thấp hơn 0,20 so với mục tiêu. Bước tính Gradient chính xác: Lấy đạo hàm của L = (w · x - y_true)^2 theo w cho kết quả dL/dw = 2 · (y - y_true) · x = 2 × (-0,20) × 2,0 = -0,80. Cập nhật w thông qua phương pháp hạ độ dốc w_new = w - lr · (dL/dw) với tốc độ học lr = 0,125 cho ra w_new = 0,40 - 0,125 × (-0,80) = 0,50, do đó lượt lan truyền tiến tiếp theo sẽ tạo ra y = 0,50 × 2,0 = 1,00 (L = 0). Bước 1.2: Từ một trọng số đến một Perceptron (Trọng số + Độ lệch + Hàm kích hoạt phi tuyến) Một trọng số đơn lẻ chỉ có thể điều chỉnh tỷ lệ của một đặc trưng qua gốc tọa độ. Để phát hiện các quy luật trên d đặc trưng đầu vào x = [x_1, x_2, ..., x_d], một Perceptron kết hợp ba thành phần: 1. Véc-tơ trọng số có thể học được (w): Nhân mỗi tọa độ đầu vào x_i với một trọng số riêng biệt w_i (w · x = sum_i w_i · x_i). 2. Độ lệch có thể học được (b): Dịch chuyển ranh giới quyết định (z = w · x + b) để nơ-ron có thể kích hoạt ngay cả khi các giá trị đầu vào bị lệch khỏi điểm 0. 3. Hàm kích hoạt phi tuyến (sigma): Nếu không có hàm phi tuyến như ReLU(z) = max(0, z) hoặc SiLU(z) = z · sigmoid(z), việc nhân liên tiếp 36 ma trận tuyến tính sẽ rút gọn về mặt đại số thành một ma trận phẳng duy nhất (W_36 · ... · W_1 = W_effective)