Các thử nghiệm AI agent gần đây hé lộ tương lai tiềm ẩn nhiều rủi ro từ sự 'làm việc nhóm' của máy móc trong các doanh nghiệp

Thử nghiệm AI agent hé lộ tương lai nhiều rủi ro từ việc "phối hợp nhóm" trong các doanh nghiệp Bỏ qua thanh điều hướng Thị trườngThị trường trước giờ mở cửa Thị trường Mỹ Thị trường châu Âu Thị trường Trung Quốc Thị trường châu Á Thị trường thế giới Tiền tệ Thị trường dự đoán Tiền mã hóa Hợp đồng tương lai & Hàng hóa Trái phiếu Quỹ đầu tư & Quỹ ETF Kinh doanhKinh tế Tài chính Y tế & Khoa học Truyền thông Bất động sản Năng lượng Khí hậu Giao thông vận tải Điều tra Công nghiệp Bán lẻ Quản lý tài sản Thể thao Đời sống Doanh nghiệp nhỏ Đầu tưTài chính cá nhân Công nghệ tài chính (Fintech) Cố vấn tài chính Giao dịch quyền chọn ETF Street Lưu trữ thông tin Warren Buffett Báo cáo doanh thu Góc nhìn nhà giao dịch Công nghệAn ninh mạng AI Doanh nghiệp Internet Truyền thông Di động Mạng xã hội CNBC Disruptor 50 Cẩm nang công nghệ Chính trị & Chính sáchNhà Trắng Chính sách Quốc phòng Quốc hội Mở rộng cơ hội Chính trị châu Âu Chính trị Trung Quốc Chính trị châu Á Chính trị thế giới VideoVideo mới nhất Toàn bộ các tập Phát trực tiếp Video tiêu biểu Âm thanh trực tiếp Truyền hình châu Âu Truyền hình châu Á CNBC Podcasts Phỏng vấn giám đốc điều hành Chương trình kỹ thuật số gốc Danh mục theo dõi Câu lạc bộ Đầu tưDanh mục tín thác Phân tích Cảnh báo giao dịch Video cuộc họp Chặng nước rút Chuyên mục của Jim Giáo dục Đăng ký PROTin tức Pro Josh Brown Mike Santoli Khuyến nghị trong ngày Danh mục của tôi Phát trực tiếp Toàn bộ các tập Bộ lọc cổ phiếu Dự báo thị trường Đầu tư quyền chọn Phân tích kỹ thuật biểu đồ Đăng ký Phát trực tiếp Menu Make It Lựa chọn Mỹ Quốc tế Phát trực tiếp Tìm kiếm báo giá, tin tức & video Phát trực tiếp Danh mục theo dõi ĐĂNG NHẬP Tạo tài khoản miễn phí Thị trường Kinh doanh Đầu tư Công nghệ Chính trị & Chính sách Video Danh mục theo dõi Câu lạc bộ Đầu tư PRO Phát trực tiếp Menu CNBC WorkCác thử nghiệm gần đây với AI agent cho thấy tương lai nhiều rủi ro từ sự "phối hợp nhóm" của máy móc trong doanh nghiệp Xuất bản Chủ nhật, ngày 8/11/2026, 9:14 EST Trevor Laurence Jockims XEM TRỰC TIẾP Nội dung chính Các AI agent ngoài tầm kiểm soát của OpenAI là ví dụ điển hình nhất về việc trí tuệ nhân tạo có thể vượt qua các rào cản hạn chế và thực hiện những hành vi tương tự như nói dối và gian lận. Các nghiên cứu ngày càng chuyên sâu về cách thức AI agent phối hợp nhóm tiếp tục chỉ ra nhiều biểu hiện đáng lo ngại. Trong một nghiên cứu, Anthropic cùng các cộng sự phát hiện rằng các tổ chức đa tác tử (multi-agent) đạt hiệu quả cao hơn trong việc hoàn thành mục tiêu kinh doanh, song những giải pháp do hệ thống này đưa ra lại "kém chuẩn mực đạo đức nhất". Trong bài viết này ANTHR.FG OPENAI.FG Theo dõi các cổ phiếu bạn quan tâmTẠO TÀI KHOẢN MIỄN PHÍ Giám đốc điều hành OpenAI Sam Altman trình bày bài phát biểu khai mạc tại hội nghị các nhà phát triển OpenAI ở Fort Mason vào ngày 29/9/2026 tại San Francisco, California. Ông Altman đã công bố các AI agent trợ lý cá nhân mới mang tên "dots" nhằm cạnh tranh với hệ thống Muse của Meta. Heather Diehl | Getty Images News | Getty Images Các AI agent đã bị phát hiện lách qua các hàng rào kiểm soát, liên lạc qua các kênh chưa được cấp phép và theo đuổi mục tiêu theo những cách thức mà các nhà phát triển không lường trước. Ví dụ điển hình nhất đã xuất hiện vào mùa hè năm ngoái khi OpenAI công bố việc các mô hình của công ty tự tìm cách giao tiếp qua các kênh tự phát, vượt qua các giới hạn kết nối internet và xâm nhập vào một hệ thống bên ngoài là Hugging Face. Hiện tượng AI vận hành ngoài dự kiến vốn không mới, song hành vi bất thường phát sinh từ sự tương tác giữa các AI agent được cấp phép trong nội bộ doanh nghiệp lại là một bài toán quy mô lớn hơn, có thể trở thành vấn đề then chốt đối với tương lai của môi trường làm việc. Trong phân tích về vụ tấn công nhằm vào Hugging Face, tổ chức METR và Redwood Research phát hiện khoảng 1.200 tác tử (agent) vốn được thiết lập để cô lập lẫn nhau đã tìm ra cách liên lạc thông qua một diễn đàn trao đổi trái phép, gửi đi hơn 70.000 tin nhắn và tệp tin trong thời gian điều tra. Một tác tử mang tên PHASEONE[big] đã nổi lên như một bộ điều phối, phân công hàng trăm nhiệm vụ cho các tác tử khác, và các tác tử này sau đó tiếp tục ủy quyền công việc cho những đối tượng tiếp theo. Các tác tử đã tự hình thành những quy ước riêng để phân định quyền sở hữu, tạm hoãn công việc và phủ quyết hành động, dù quá trình phối hợp đôi khi đổ vỡ và dẫn đến xung đột. Trong một số trường hợp, các nhà nghiên cứu ghi nhận sự thành công đạt được là nhờ một số tác tử chấp nhận rủi ro thất bại trong nhiệm vụ riêng để tạo ra thông tin phục vụ cho "tập thể". Các nhà nghiên cứu cũng phát hiện ra rằng, ngay khi diễn đàn này xác định được phương thức tấn công Hugging Face, hơn 90% trong số 533 tác tử đang hoạt động vào thời điểm đó đã nhanh chóng tham gia. "Các tác tử nhận thức được hoạt động này nằm ngoài phạm vi cho phép và phi đạo đức, nhưng vẫn tham gia vì tin rằng việc hỗ trợ nghiên cứu gian lận của diễn đàn sẽ mang lại lợi ích rộng rãi, đồng thời có xu hướng chung là giúp đỡ 'đồng cấp'". Các nhà nghiên cứu cho biết thêm rằng những lo ngại về mặt đạo đức do chính các tác tử đặt ra "hiếm khi hạn chế hành vi của chúng". Các doanh nghiệp đang ngày càng đẩy mạnh tìm hiểu những hệ thống phân chia nhiệm vụ phức tạp cho các tác tử chuyên biệt. Một tác tử có thể tìm kiếm thông tin, tác tử khác phân tích, tác tử khác viết báo cáo và một tác tử nữa kiểm tra công việc. Sau đó, một tác tử điều phối có thể tổng hợp các kết quả lại. Mô hình này ít mang tính chất của một chatbot đơn thuần mà giống một tổ chức hơn. Tuy vậy, nghiên cứu về vụ tấn công Hugging Face thực chất là một cuộc phân tích hồi cứu về một tổ chức tác tử vốn không được phép tồn tại. Cho đến nay, có rất ít nghiên cứu được thiết kế ngay từ đầu nhằm xem xét sự sai lệch mục tiêu trong các hệ thống đa tác tử. Tuy nhiên, các nghiên cứu do Anthropic và các đối tác tiến hành đang bắt đầu giải quyết vấn đề này, đồng thời hé lộ những khía cạnh quan trọng về phương thức các tác tử AI phối hợp cùng nhau. Việc đánh giá từng tác tử riêng lẻ cho phép các nhà nghiên cứu biết rõ năng lực của mỗi đối tượng, song việc nghiên cứu chúng trong tập thể lại chỉ ra liệu chúng có thể kết hợp chuyên môn bổ trợ, phát hiện sai sót của nhau và đưa ra những giải pháp mà không tác tử đơn lẻ nào tự đạt được hay không — cũng như những phương thức sai hỏng nào chỉ phát sinh qua quá trình tương tác. Các nhà nghiên cứu đang bắt đầu ghi nhận cả hai mặt của vấn đề này. Các nhóm AI có thể hoàn thành những việc mà từng tác tử đơn lẻ không thể thực hiện, song chúng cũng có thể khuếch đại sai sót, làm suy yếu công việc của nhau hoặc đưa ra những quyết định kém hơn so với thành viên riêng lẻ xuất sắc nhất, trên thực tế khiến hiệu quả tổng thể thấp hơn tổng giá trị của từng phần. Trước hết, việc tập hợp các tác tử có năng lực không nhất thiết sẽ tạo ra một tập thể tốt nhất, chứ chưa nói đến một tập thể có đạo đức nhất. 'Những giải pháp kém đạo đức nhất' Trong nghiên cứu do Anthropic và các cộng sự công bố, các nhà nghiên cứu mô tả các hệ thống đa tác tử là "các tổ chức AI" — những nhóm tác tử với các