Cohere cho biết mô hình Qwen của Alibaba đã tìm cách gửi một tệp tin đến Bắc Kinh

Công ty AI Cohere của Canada ngày thứ Hai cho biết đã phát hiện Qwen3.8-Flash-Next, một trong những mô hình AI mới nhất của Alibaba, tìm cách tải tệp tin lên một máy chủ tại Bắc Kinh trong quá trình kiểm tra an ninh mạng định kỳ, dù trong phần ghi chú, mô hình này khẳng định sẽ không sử dụng bất kỳ công cụ nào. Sự việc ban đầu làm dấy lên quan ngại rằng mô hình này đã phá vỡ cam kết căn bản đối với các doanh nghiệp, vốn cho rằng việc tự vận hành một mô hình trọng số mở (open-weight) sẽ bảo đảm dữ liệu được lưu trữ nội bộ. Tuy nhiên, những lo ngại ban đầu về nguy cơ gián điệp doanh nghiệp đã nhanh chóng lắng xuống. Các nhà nghiên cứu lập tức bác bỏ mối đe dọa này và cho rằng, đây nhiều khả năng là hệ quả phụ từ môi trường huấn luyện chưa hoàn thiện khiến mô hình hành động ngoài dự tính so với chỉ dẫn, thay vì là một nỗ lực có chủ đích nhằm bí mật chuyển thông tin nhạy cảm về Trung Quốc. Sự việc bắt đầu vào ngày thứ Sáu trong một bài đánh giá, khi mô hình Qwen được yêu cầu lập quy tắc phát hiện các hoạt động tải mã độc. Theo bài đăng của Cohere, phần lập luận bằng văn bản của mô hình nêu rõ sẽ không sử dụng bất kỳ công cụ bên ngoài nào. Dẫu vậy, ngay ở bước tiếp theo, mô hình này đã cố gắng gửi một chuỗi ký tự thử nghiệm (đoạn văn bản mẫu ngắn) tới một máy chủ bên ngoài trước khi bị môi trường hộp cát (sandbox) bảo mật chặn lại. Cohere cho biết chưa thể xác định hành vi này là có chủ đích hay là tàn dư từ quá trình huấn luyện. Khi được hỏi về cuộc tranh luận liên quan đến mục đích của mô hình, ông Ivan Zhang, đồng sáng lập Cohere, chia sẻ với TechCrunch rằng Cohere từng ghi nhận chính các mô hình của mình cũng hình thành những thói quen kỳ lạ trong môi trường mô phỏng huấn luyện. "Rất khó để quy kết ý định hay động cơ. Chúng tôi đã xem xét dữ liệu truy vết từ mô hình của chính mình, chứng kiến hiện tượng gian lận phần thưởng (reward hack), và đôi khi các mô hình này trở nên rất sáng tạo trong việc tìm cách vượt khỏi môi trường hộp cát", ông Zhang cho biết. (Hiện tượng gian lận phần thưởng là những đường tắt mà mô hình tìm ra để ghi điểm mà không hoàn thành nhiệm vụ theo đúng mục đích đề ra). Để huấn luyện một mô hình AI hoạt động như một tác tử (agent) có khả năng tự đưa ra hành động, các doanh nghiệp như Alibaba đào tạo mô hình trong hàng nghìn kịch bản thực hành, tương tự như các hệ thống mô phỏng buồng lái dành cho phần mềm. Mô hình được cộng điểm thưởng mỗi khi hoàn thành nhiệm vụ trong môi trường mô phỏng, và từ đó hình thành các thói quen. Nếu các kịch bản thực hành này thường xuyên lưu trữ tệp trên các máy chủ đám mây của Alibaba, mô hình có thể tự động lưu tệp tại đó theo mặc định. Nhiều ý kiến phản biện cũng cho rằng sự việc có thể bắt nguồn từ phương pháp điều tra hành vi của Cohere, khi đã định hướng mô hình thực hiện thay vì đo lường tần suất Qwen tự động tiến hành thao tác đó. Để tìm nguyên nhân kích hoạt nỗ lực tải tệp lên, Cohere đã cung cấp phần đầu của một lệnh mạng (chỉ dẫn yêu cầu một máy tính kết nối với máy tính khác) và để mô hình tự hoàn thiện. Do đã xử lý hàng nghìn lệnh mạng thông thường trong quá trình huấn luyện, mô hình hoạt động như một tính năng tự động hoàn thành nâng cao — thường xuyên điền các địa chỉ web, trong đó có một số địa chỉ dẫn tới máy chủ của Alibaba. Cohere khẳng định nỗ lực tải tệp lên ban đầu diễn ra hoàn toàn không có sự định hướng như vậy, song đây là hành vi hiếm gặp. Sau khi các nhà phát triển yêu cầu cung cấp thêm bằng chứng, vào tối thứ Hai, Cohere đã công bố dữ liệu truy vết thô từ các đợt thử nghiệm trên nền tảng nhà phát triển AI Hugging Face, cùng một kịch bản mã nguồn để các bên có thể tái hiện hành vi trên. Một chuyên gia từng hoài nghi ban đầu, sau khi rà soát các dữ liệu truy vết, nhận định có cơ sở vững chắc cho thấy Qwen có thể tự tạo ra các địa chỉ web đáng ngờ, song không tìm thấy bằng chứng nào cho thấy Alibaba cài cắm cửa hậu (backdoor) hay Qwen đã cố ý che giấu mục đích của mình. Sự việc diễn ra trong bối cảnh chính phủ các nước đang cân nhắc mức độ hạn chế đối với công nghệ AI của Trung Quốc. Tuần trước, Bộ An ninh Nội địa Hoa Kỳ đã yêu cầu các cơ quan dân sự liên bang gỡ bỏ các sản phẩm của nhà phát triển AI Trung Quốc DeepSeek khỏi hệ thống của họ. Trong một bài viết trên blog, Cohere đã kêu gọi các chính phủ làm rõ liệu các biện pháp hạn chế đối với AI Trung Quốc có áp dụng cho những mô hình đang vận hành trên máy tính của các cơ quan nhà nước hay không. “Tôi không yêu cầu phải kiểm soát toàn diện đối với các mô hình open weights (trọng số mở) này”, ông Zhang chia sẻ với TechCrunch, đồng thời cho biết thêm rằng các doanh nghiệp nên xử lý các mô hình mở tương tự như bất kỳ phần mềm nào được tải về từ internet. Cohere, doanh nghiệp chuyên cung cấp các mô hình AI độc quyền cho các chính phủ, sẽ có lợi thế nếu giới chức ngày càng cảnh giác hơn với các giải pháp thay thế miễn phí từ Trung Quốc. Chủ đề AI, TC Khi giao dịch được thực hiện qua các liên kết trong bài viết, tòa soạn có thể nhận được một khoản hoa hồng nhỏ. Điều này không ảnh hưởng đến tính độc lập biên tập. Aditya Mehta Cộng tác viên Biên tập Aditya Mehta là phóng viên của TechCrunch chuyên trách mảng AI. Phóng viên này nhận tài trợ từ Tarbell Center for AI Journalism và từng theo học tại UC Berkeley. Có thể liên hệ với Aditya qua thư điện tử [email protected] hoặc qua tin nhắn mã hóa tới tài khoản adymehta.74 trên Signal. Xem tiểu sử Ngày 4/11 Boston Mua một vé, tặng một vé Mở rộng cơ hội tại chương trình huấn luyện nhà sáng lập quy mô nhất trong năm của TechCrunch cùng đồng sáng lập hoặc đối tác được miễn phí tham dự Đăng ký trước khi chương trình ưu đãi mua một tặng một kết thúc Đăng ký ngay Đọc nhiều nhất Grok công bố 7 phút đầu tiên của tác phẩm ‘Odyssey’ do AI tạo ra Anthony Ha “Nghĩa địa AI”: danh sách cập nhật các dự án và công ty khởi nghiệp thất bại Lauren Forristal Warhound huy động 200 triệu USD để phát triển chó nghiệp vụ và trang bị thiết bị của Anduril Dominic-Madori Davis Uber triển khai ChatGPT Work cho toàn bộ 30.000 nhân viên Lucas Ropek Airbnb giới hạn việc nhà đối với khách lưu trú, vấp phải phản ứng từ các chủ nhà Lauren Forristal Tesla bắt đầu sản xuất robot Optimus tại California khi lợi nhuận giảm 43% Kirsten Korosec Sean O'Kane Internet trải qua một ngày khủng hoảng về an ninh mạng Sarah Perez