Các mô hình AI mở trọng số có thể khai thác khoảng trống vá lỗi
Đường dẫn bài viết: https://epoch.ai/publications/open-weight-models-patch-gap Đường dẫn bình luận: https://news.ycombinator.com/item?id=50314276 Điểm: 1 Số bình luận: 0
Các mô hình AI trọng số mở có thể khai thác khoảng trống bản vá | Epoch AI
Mới nhấtCông trình nghiên cứuTiêu biểu
Xu hướng AI
Dữ liệu về AI
Năng lực và đánh giá chuẩn
Ấn phẩm
Báo cáo và nghiên cứu
Phân tích dữ liệu
Bản tin
Podcast
Tất cả ấn phẩm
Công cụ khám phá dữ liệu
Năng lực AI
Mô hình AI
Trung tâm dữ liệu AI
Doanh số chip AI
Doanh nghiệp AI
Khảo sát mức độ sử dụng AI
Toàn bộ công cụ khám phá dữ liệu
Hệ thống đánh giá chuẩn
Chỉ số năng lực Epoch
MirrorCode
FrontierMath: Các bài toán mở
Báo cáo tự động hóa Epoch
Earthborne Rangers
Chủ đềTiến bộ AI
Mở rộng quy mô
Tiến bộ phần mềm
Mô hình mở
Năng lực và đánh giá chuẩn
Toán học
Ngành công nghiệp
Các doanh nghiệp hàng đầu
Tài chính
Địa chính trị
Hạ tầng
Chip
Trung tâm dữ liệu
Năng lượng
Tác động
Ứng dụng và sử dụng
Tác động kinh tế
Tương lai của AI
Cơ quan quan sát tác động AI
Giới thiệuChúng tôi là ai
Về chúng tôi
Đội ngũ
Tính minh bạch
Hợp tác
Tuyển dụng
Báo chí
Hợp tác cùng chuyên gia
Đóng góp
Liên hệ
Mới nhất
Công trình nghiên cứuTiêu biểu
Xu hướng AIDữ liệu về AINăng lực và đánh giá chuẩn
Ấn phẩm
Báo cáo và nghiên cứu
Phân tích dữ liệu
Bản tin
Podcast
Tất cả ấn phẩm
Công cụ khám phá dữ liệu
Năng lực AI
Mô hình AI
Trung tâm dữ liệu AI
Doanh số chip AI
Doanh nghiệp AI
Khảo sát mức độ sử dụng AI
Toàn bộ công cụ khám phá dữ liệu
Hệ thống đánh giá chuẩn
Chỉ số năng lực Epoch
MirrorCode
FrontierMath: Các bài toán mở
Báo cáo tự động hóa Epoch
Earthborne Rangers
Điều hướng theo chủ đềTiến bộ AI
Mở rộng quy mô
Tiến bộ phần mềm
Mô hình mở
Năng lực và đánh giá chuẩn
Toán học
Ngành công nghiệp
Các doanh nghiệp hàng đầu
Tài chính
Địa chính trị
Hạ tầng
Chip
Trung tâm dữ liệu
Năng lượng
Tác động
Ứng dụng và sử dụng
Tác động kinh tế
Tương lai của AI
Cơ quan quan sát tác động AI
Giới thiệuChúng tôi là ai
Về chúng tôi
Đội ngũ
Tính minh bạch
Hợp tác
Tuyển dụng
Báo chí
Hợp tác cùng chuyên gia
Đóng góp
Liên hệ
Ấn phẩm
AI có thể biến các bản vá bảo mật thành mã khai thác hoạt động trước khi người dùng kịp cập nhật
Báo cáo
Ngày 29/10/2026
AI có thể biến các bản vá bảo mật thành mã khai thác hoạt động trước khi người dùng kịp cập nhật
Trong các thử nghiệm, một mô hình trọng số mở đã khai thác thành công "khoảng trống bản vá" (patch gap) để xâm nhập sáu phiên bản Firefox phát hành gần đây, với chi phí thực hiện khoảng 1.000 USD cho mỗi phiên bản
Trích dẫn
Tác giả: Aiden Ament, Yafah Edelman, Alexander Barry, Timothée Chauvin, Lee Bousfield và Jaeho Lee
Mục lục
Tổng quan
Bối cảnh
Phương pháp nghiên cứu
Kết quả
Tác động đối với các phần mềm khác
Kết luận
Tổng quanTổng quan
Bối cảnh
Phương pháp nghiên cứu
Kết quả
Tác động đối với các phần mềm khác
Kết luận
Tổng quan
GLM 5.3, mô hình trọng số mở (open-weight) phổ biến được Z.ai phát hành vào tháng 8, có khả năng nhận diện và khai thác các lỗ hổng trên các phiên bản trình duyệt Mozilla Firefox gần đây thông qua các bản sửa lỗi bảo mật đã được công bố nhưng chưa được phát hành tới người dùng.
Khoảng thời gian từ khi bản sửa lỗi được công bố đến khi tới tay người dùng được gọi là khoảng trễ vá lỗi (patch gap).
Trong các thử nghiệm, GLM 5.3 đã lợi dụng khoảng trễ này để tạo lập một trang web có khả năng đọc tệp tin từ máy tính của người dùng Firefox và gửi về cho kẻ tấn công ngay khi họ truy cập, mà không cần thêm bất kỳ tương tác nào từ phía người dùng.
Đặc biệt, kết quả cho thấy mọi phiên bản Firefox phát hành từ ngày 17/9 đến ngày 26/10 đều có thể bị xâm nhập theo phương thức này, chỉ bằng các thông tin sẵn có tại thời điểm phát hành.
Khoảng trễ vá lỗi là một điểm yếu cố hữu trong quy trình phát hành phần mềm và tồn tại phổ biến trên nhiều nền tảng, bao gồm trình duyệt, hệ điều hành điện thoại và firmware của thiết bị định tuyến.
Trước đây, việc khai thác điểm yếu này đòi hỏi nhiều thời gian, trình độ chuyên môn cao hoặc quyền tiếp cận đặc biệt tới các mô hình tiên tiến có năng lực an ninh mạng phát triển; do đó, rất ít đối tượng tấn công có thể nhắm vào các lỗ hổng này trước khi chúng được khắc phục.
Phát hiện then chốt của nghiên cứu là các mô hình trọng số mở phổ biến hiện nay đã có thể tự thực hiện phần lớn, thậm chí toàn bộ quá trình này.
Mô hình thử nghiệm được thiết kế có chủ đích nhằm mô phỏng những gì một đối tượng tấn công có trình độ kỹ thuật và nguồn lực hạn chế có thể thực hiện, chỉ dựa vào những thông tin công khai tại thời điểm mỗi phiên bản được phát hành.
Sau khi thiết lập hệ thống, chi phí để tấn công thành công mỗi phiên bản Firefox chỉ vào khoảng 1.000 USD.
Trong tất cả các trường hợp xâm nhập gần đây, GLM 5.3 còn phát hiện và kết hợp một lỗ hổng chưa từng được công bố với các lỗ hổng tìm thấy qua khoảng trễ vá lỗi.
Nhóm nghiên cứu đã liên hệ với Mozilla để chia sẻ các phát hiện và thảo luận về các biện pháp giảm thiểu những cuộc tấn công tương tự.
Sau đó, Mozilla đã phát hành phiên bản Firefox mới (phiên bản 159.0, ngày 27/10/2026) nhằm vá lỗ hổng chưa từng công bố nêu trên, qua đó gây khó khăn hơn cho GLM 5.3 trong việc xâm nhập trình duyệt này qua các lỗ hổng từ khoảng trễ vá lỗi.
Các dự án mã nguồn mở đặc biệt dễ bị tổn thương trước hình thức tấn công này do mã nguồn được công khai. Tuy nhiên, nhiều khả năng mọi dự án phần mềm mà mô hình có thể phát hiện nội dung của các thay đổi bảo mật sắp tới trước thời điểm phát hành đều đứng trước nguy cơ tương tự, bao gồm cả các dự án mã nguồn đóng.1
Nguy cơ này được dự báo sẽ gia tăng khi năng lực an ninh mạng của các mô hình trọng số mở tiếp tục được nâng cao.
Một số phát hiện khác từ các thử nghiệm trên trình duyệt Firefox:
GLM 5.3 đã khai thác khoảng trễ vá lỗi bất chấp các biện pháp đối phó hiện hành. Nhằm làm chậm bước tiến của các đối tượng tấn công, các bản sửa lỗi bảo mật khi công bố thường được ngụy trang dưới dạng cải tiến thông thường và không tiết lộ chi tiết về các lỗ hổng tiềm ẩn. Dù vậy, GLM 5.3 vẫn có khả năng đọc hiểu mã nguồn và xác định chính xác những thay đổi liên quan đến các bản vá bảo mật.
Hình thức khai thác được thử nghiệm có mức độ nguy hại đặc biệt nghiêm trọng. Bằng cách sử dụng GLM 5.3, nhóm nghiên cứu đã tạo ra một trang web cho phép kẻ tấn công trích xuất dữ liệu từ máy tính của người dùng ngay khi họ truy cập bằng trình duyệt Firefox mà không cần thao tác bổ sung. Với hơn 200 triệu người dùng đang hoạt động, hình thức khai thác này có thể bị lợi dụng để đọc mật khẩu lưu trong trình duyệt, đánh cắp cookie xác thực hoặc xem các thông tin riêng tư khác trên máy tính nạn nhân.
Quá trình sử dụng GLM 5.3 theo phương thức này không kích hoạt bất kỳ rào cản kiểm soát hay lệnh từ chối nào từ các nhà cung cấp, bao gồm cả Z.ai. Dù yêu cầu được đặt dưới danh nghĩa một bài tập an ninh mạng, các hành vi thực tế không khác biệt so với hành động của một kẻ tấn công thực sự.
Tính đến thời điểm viết bài, các cuộc tấn công tương tự nhằm vào Google Chrome vẫn chưa thành công. Tuy nhiên, điều này không được coi là bằng chứng chắc chắn cho thấy các cuộc tấn công sẽ không thể thành công khi áp dụng những kỹ thuật gợi mở (elicitation) nâng cao hơn, hoặc sử dụng các mô hình trọng số mở (open-weight models) có năng lực mạnh hơn (nhiều khả năng bao gồm cả Kimi K3.1 Pro vừa được công bố gần đây).


Nguồn tin: Hacker News AI — Tác giả: vinhnx. Bản dịch tiếng Việt do AI thực hiện, có thể có sai sót.