Các nhà nghiên cứu đã phát triển một phương pháp mới để tạo ra các mô hình ngôn ngữ lớn (LLM) hiệu quả hơn, có khả năng hoạt động trên các thiết bị có tài nguyên hạn chế. Phương pháp này, được gọi là "nén LLM dựa trên kiến thức", kết hợp các kỹ thuật từ nén mô hình và chưng cất kiến thức.
Nén mô hình là quá trình giảm kích thước của một mô hình học máy mà không làm giảm đáng kể hiệu suất của nó. Chưng cất kiến thức là một kỹ thuật trong đó một mô hình nhỏ hơn, gọi là mô hình học sinh, được huấn luyện để bắt chước hành vi của một mô hình lớn hơn, gọi là mô hình giáo viên.
Phương pháp nén LLM dựa trên kiến thức hoạt động bằng cách đầu tiên huấn luyện một LLM lớn, sau đó sử dụng LLM này làm mô hình giáo viên để chưng cất kiến thức của nó vào một LLM nhỏ hơn, gọi là mô hình học sinh. Quá trình chưng cất được thực hiện bằng cách sử dụng một tập dữ liệu nhỏ các ví dụ được gắn nhãn, được tạo ra bởi mô hình giáo viên.
Các nhà nghiên cứu đã chứng minh rằng phương pháp nén LLM dựa trên kiến thức có thể tạo ra các LLM nhỏ hơn đáng kể so với các LLM được huấn luyện theo cách truyền thống, mà không làm giảm đáng kể hiệu suất của chúng. Ví dụ, họ đã có thể nén một LLM với 1,5 tỷ tham số xuống còn 100 triệu tham số, mà vẫn duy trì hiệu suất tương đương.
Phương pháp nén LLM dựa trên kiến thức có một số lợi ích tiềm năng. Thứ nhất, nó có thể giúp triển khai LLM trên các thiết bị có tài nguyên hạn chế, chẳng hạn như điện thoại thông minh và thiết bị biên. Thứ hai, nó có thể giảm chi phí huấn luyện và triển khai LLM. Thứ ba, nó có thể giúp cải thiện quyền riêng tư của LLM bằng cách giảm lượng dữ liệu cần thiết để huấn luyện chúng.
Các nhà nghiên cứu tin rằng phương pháp nén LLM dựa trên kiến thức có tiềm năng trở thành một công cụ quan trọng để phát triển các LLM hiệu quả và có thể truy cập hơn.
Tech
Các bài viết từ chủ đề này sẽ được thêm vào bản tin email hàng ngày và nguồn cấp dữ liệu trang chủ của bạn.
Theo dõiTheo dõiXem tất cả Tech
AI
Các bài viết từ chủ đề này sẽ được thêm vào bản tin email hàng ngày và nguồn cấp dữ liệu trang chủ của bạn.
Theo dõiTheo dõiXem tất cả AI
Tin tức
Các bài viết từ chủ đề này sẽ được thêm vào bản tin email hàng ngày và nguồn cấp dữ liệu trang chủ của bạn.
Theo dõiTheo dõiXem tất cả Tin tức
Lượng khí thải carbon của Microsoft tăng 25% vào năm ngoái
Báo cáo bền vững thường niên của công ty cũng cho biết các giải pháp bền vững không theo kịp nhu cầu AI.
Báo cáo bền vững thường niên của công ty cũng cho biết các giải pháp bền vững không theo kịp nhu cầu AI.
bởi Stevie Bonifield
Stevie Bonifield
Phóng viên tin tức
Các bài viết từ tác giả này sẽ được thêm vào bản tin email hàng ngày và nguồn cấp dữ liệu trang chủ của bạn.
Theo dõiTheo dõiXem tất cả của Stevie Bonifield
Ngày 10/7/2026, 12:04 SA UTC
Liên kết
Chia sẻ
Tặng
Ảnh: Cath Virginia / The Verge, Getty Images
Stevie Bonifield
Stevie Bonifield
Các bài viết từ tác giả này sẽ được thêm vào bản tin email hàng ngày và nguồn cấp dữ liệu trang chủ của bạn.
Theo dõiTheo dõiXem tất cả của Stevie Bonifield
là phóng viên tin tức chuyên về mọi thứ liên quan đến công nghệ tiêu dùng. Stevie bắt đầu tại Laptop Mag, viết tin tức và đánh giá về phần cứng, trò chơi và AI.
Microsoft có thể một lần nữa gặp khó khăn trong việc đạt được các mục tiêu khí hậu của mình, theo báo cáo bền vững năm 2026. Như GeekWire đã đưa tin, báo cáo cho biết lượng khí thải carbon của Microsoft đã tăng 25% vào năm 2025, tổng cộng 34 triệu tấn “nếu không có các biện pháp can thiệp chọn lọc”. Microsoft cho biết điều này “chủ yếu do việc mở rộng cơ sở hạ tầng trung tâm dữ liệu của chúng tôi”, cũng như quyết định của công ty vào tháng 2 năm ngoái về việc ngừng mua “chứng chỉ năng lượng tái tạo không bổ sung, không kèm theo”.
Vài năm trước, Microsoft đã đặt mục tiêu trở thành công ty có lượng carbon âm vào năm 2030, nghĩa là công ty sẽ cần loại bỏ nhiều khí thải carbon hơn lượng khí thải mà công ty tạo ra. Đây không phải là lần đầu tiên Microsoft đối mặt với những trở ngại trong việc đạt được mục tiêu đó, vì báo cáo bền vững năm 2024 của công ty cũng cho thấy sự gia tăng tương tự về ô nhiễm khí hậu. Báo cáo năm nay thừa nhận rằng, “Trong khi cơ sở hạ tầng AI đang thúc đẩy nhu cầu về năng lượng, nước, đất đai và vật liệu, các giải pháp bền vững không mở rộng đủ nhanh để đáp ứng nhu cầu.”
Liên quan
AI có vấn đề về nước — Google nghĩ rằng họ có giải pháp
Google cũng báo cáo mức tăng 25% lượng khí thải chuỗi cung ứng trong báo cáo bền vững năm 2026, với Amazon báo cáo mức tăng thấp hơn một chút là 16%. Vào tháng 6, Amazon cũng báo cáo rằng các trung tâm dữ liệu của họ đã sử dụng 2,5 tỷ gallon nước vào năm 2025, mà công ty tuyên bố là ít hơn so với Microsoft đã sử dụng.
Theo dõi các chủ đề và tác giả từ câu chuyện này để xem thêm nội dung tương tự trong nguồn cấp dữ liệu trang chủ được cá nhân hóa của bạn và để nhận thông tin cập nhật qua email.Stevie Bonifield
Stevie Bonifield
Phóng viên tin tức
Các bài viết từ tác giả này sẽ được thêm vào bản tin email hàng ngày và nguồn cấp dữ liệu trang chủ của bạn.
Theo dõiTheo dõiXem tất cả của Stevie Bonifield
AI
Các bài viết từ chủ đề này sẽ được thêm vào bản tin email hàng ngày và nguồn cấp dữ liệu trang chủ của bạn.
Theo dõiTheo dõiXem tất cả AI
Môi trường
Các bài viết từ chủ đề này sẽ được thêm vào bản tin email hàng ngày và nguồn cấp dữ liệu trang chủ của bạn.
Theo dõiTheo dõiXem tất cả Môi trường
Microsoft
Các bài viết từ chủ đề này sẽ được thêm vào bản tin email hàng ngày và nguồn cấp dữ liệu trang chủ của bạn.
Theo dõiTheo dõiXem tất cả Microsoft
Tin tức
Các bài viết từ chủ đề này sẽ được thêm vào bản tin email hàng ngày và nguồn cấp dữ liệu trang chủ của bạn.
Theo dõiTheo dõiXem tất cả Tin tức
Khoa học
Các bài đăng từ chủ đề này sẽ được thêm vào bản tin email hàng ngày và nguồn cấp dữ liệu trang chủ của quý vị.
Theo dõiTất cả các bài viết về Khoa học
Công nghệ
Các bài đăng từ chủ đề này sẽ được thêm vào bản tin email hàng ngày và nguồn cấp dữ liệu trang chủ của quý vị.
Theo dõiTất cả các bài viết về Công nghệ
Phổ biến nhất
Phổ biến nhất
Đặc vụ ICE đến tận nhà những người chỉ trích trên mạng
Chào mừng đến với Claude Wrapped
Nếu Microsoft bán Xbox, ai sẽ mua?
OpenAI ra mắt GPT-5.6 sau khi được chính phủ bật đèn xanh – và công bố ‘ChatGPT Work’
Luật robotaxi có thể cấm Tesla
The Verge Daily
Bản tin tóm tắt miễn phí hàng ngày về những tin tức quan trọng nhất.
Email (bắt buộc)
Đăng ký
Bằng cách gửi email, quý vị đồng ý với Điều khoản và Thông báo quyền riêng tư của chúng tôi. Trang web này được bảo vệ bởi reCAPTCHA và áp dụng Chính sách quyền riêng tư cùng Điều khoản dịch vụ của Google.
Nội dung quảng cáo từ
Đây là tiêu đề cho quảng cáo gốc
Nguồn tin: The Verge AI — Tác giả: Stevie Bonifield. Bản dịch tiếng Việt do AI thực hiện, có thể có sai sót.
