Theo nghiên cứu của Anthropic, các chuyên gia tiếp nhận ý kiến ngẫu nhiên của tác nhân AI và cho rằng đó là quan điểm của chính mình.

Nghiên cứu AI Sao chép liên kết vào bộ nhớ tạm Chia sẻ bài viết này Chuyển đến phần bình luận Nghiên cứu của Anthropic: Chuyên gia tiếp nhận ý kiến ngẫu nhiên của tác tử AI và ngộ nhận đó là quan điểm của chính mình Matthias Bastian Xem hồ sơ LinkedIn của Matthias Bastian Ngày 29/10/2026 Nano Banana Pro thực hiện theo câu lệnh của THE DECODER Các nội dung chính Anthropic đã yêu cầu 50 chuyên gia sử dụng tác tử AI (AI agent) để xử lý bốn tác vụ phân tích không có câu trả lời đúng tuyệt đối. Thiên hướng của tác tử đối với một trong hai phương án hợp lệ được ấn định ngẫu nhiên bằng cách tung đồng xu. Người tham gia đã làm theo thiên hướng của tác tử AI trong tối đa 86% trường hợp, và đa số tin rằng kết quả cuối cùng là do chính họ đưa ra. Yếu tố kinh nghiệm, chuyên môn và mức độ tin tưởng vào AI không tạo ra sự khác biệt. Tuy nhiên, người tham gia làm việc nhanh hơn và ít mắc lỗi nghiêm trọng hơn khi có AI. Các tác giả cảnh báo rằng nếu nhiều nhóm nghiên cứu cùng sử dụng một mô hình, điều này có thể tạo ra sự đồng thuận giả tạo trong nghiên cứu và làm suy yếu các quy trình kiểm định an toàn AI. Nhóm nghiên cứu đề xuất các tác tử nên đưa ra lập luận đa chiều hoặc khảo sát quan điểm của người dùng trước. Đặt câu hỏi về bài viết này… Tìm kiếm Một thử nghiệm do Anthropic tiến hành với 50 chuyên gia cho thấy con người thường làm theo thiên hướng được ấn định ngẫu nhiên của tác tử AI trước các câu hỏi không có đáp án rõ ràng, và phần lớn đều cho rằng kết quả cuối cùng là quyết định của chính họ. Việc chuyển giao công việc phân tích dữ liệu cho tác tử AI giúp tiết kiệm thời gian và thao tác thủ công, song đặt ra câu hỏi về việc ai mới thực sự là bên đưa ra các quyết định định hình khuyến nghị cuối cùng. Nghiên cứu của Anthropic chỉ ra rằng tác tử AI đưa ra phần lớn các quyết định đó mà các chuyên gia thường không nhận ra. Trong thử nghiệm, 50 chuyên gia về suy luận nhân quả đã thực hiện tác vụ phân tích thực tế, trong đó họ kiểm tra dữ liệu quan sát từ một hợp tác xã nông nghiệp giả định và ước tính mức tăng năng suất từ một chương trình tư vấn nông trại tự nguyện. Sau đó, họ phải đưa ra khuyến nghị liệu hợp tác xã nên mở rộng chương trình ra toàn bộ các nông trại hay chấm dứt chương trình, dù người tham gia hoặc tác tử AI cũng có thể đề xuất gia hạn thêm một năm. Quảng cáo Năm quyết định, mỗi quyết định có hai phương án hợp lệ, và một tác tử có thiên hướng được ấn định bằng cách tung đồng xu. Đó là phương pháp nghiên cứu dùng để đo lường mức độ ảnh hưởng của tác tử AI. | Ảnh: Anthropic Điều người tham gia không được biết là việc tung đồng xu đã định sẵn thiên hướng của tác tử AI đối với một trong hai phương án hợp lệ ở mỗi thời điểm ra quyết định. Tác tử không thể nói dối hay che giấu dữ liệu; hệ thống chỉ cần đưa ra những lập luận trung thực và thuyết phục nhất cho phương án được chỉ định. Quảng cáo Chuyên gia làm theo quan điểm của AI trong tối đa 86% trường hợp Những người tham gia đã tiếp nhận thiên hướng của tác tử AI trong 86% số quyết định thuộc bốn tác vụ phân tích, chẳng hạn như phương pháp đo lường năng suất hay mô hình thống kê cần áp dụng. Con số này vượt xa mức 50% kỳ vọng nếu các quyết định được đưa ra ngẫu nhiên. Các tác giả gọi mức độ ảnh hưởng thuần của tác tử là "tỷ lệ đảo chiều", dao động từ 62% đến 82% tùy theo từng tác vụ. Tỷ lệ người tham gia lựa chọn phương án A dựa trên việc tác tử ủng hộ phương án A (màu xanh lá) hay B (màu tím). Phần còn lại chọn phương án B. Đối với bốn quyết định phân tích, mức chênh lệch giữa hai nhóm là từ 62 đến 82 điểm phần trăm; đối với quyết định khuyến nghị, mức chênh lệch là 17 điểm phần trăm. | Ảnh: Anthropic Việc có sẵn quan điểm từ trước hầu như không mang lại tác dụng ngăn ngừa ảnh hưởng. Khi người tham gia đưa ra lựa chọn trước thời điểm tác tử nêu thiên hướng, một ý kiến phản đối từ AI khiến khả năng họ đổi hướng lựa chọn tăng thêm 53 điểm phần trăm so với trường hợp AI đồng thuận. Quảng cáo Các tác giả đã kiểm tra các yếu tố bảo vệ tiềm năng, bao gồm số năm kinh nghiệm phân tích, trình độ chuyên môn tự đánh giá, trình độ học vấn, điểm kiểm tra và mức độ tin tưởng vào AI. Không yếu tố nào có mối liên hệ đáng tin cậy về mặt thống kê với kết quả sau khi hiệu chỉnh cho nhiều phép thử. Độ tuổi là yếu tố nổi bật trước khi tiến hành hiệu chỉnh, dù quy mô mẫu gồm 50 đối tượng khiến nghiên cứu có độ nhạy thống kê thấp để phát hiện các tác động như vậy. Đa số chuyên gia cho rằng quyết định cuối cùng là của chính họ Thiên hướng được thiết lập sẵn của tác tử AI chỉ có tác động trực tiếp ở mức nhỏ đối với khuyến nghị chính sách cuối cùng gửi tới hội đồng quản trị của hợp tác xã, làm thay đổi nhẹ số phiếu bầu nhưng không đạt mức ý nghĩa thống kê. Một số chuyên gia thậm chí đã bác bỏ ý kiến của tác tử AI khi lời khuyên của công cụ này không phù hợp với ước tính năng suất do họ tự tính toán. Điều đó có thể tạo cảm giác yên tâm, như thể AI chỉ đưa ra gợi ý còn con người mới là bên ra quyết định. Tuy nhiên, các nhà nghiên cứu cho biết kết quả cuối cùng không chứng minh được rằng những người tham gia vẫn nắm quyền kiểm soát. Bốn quyết định phân tích trước đó đã tác động lớn đến mức tăng năng suất ước tính, qua đó định hình khuyến nghị gửi tới hội đồng quản trị. Khi được hỏi sau đó, 52% số người tham gia cho biết họ cảm thấy khuyến nghị này giống ý kiến của chính mình hơn là của tác tử AI, và 35% khác khẳng định khuyến nghị phần lớn hoặc hoàn toàn là của họ. Những người tham gia nhớ chính xác lựa chọn của mình trong 85% số quyết định, nhưng 77% (tương đương 37/48 người) đã sử dụng ít nhất một trong các lập luận của tác tử AI trong phần giải thích của mình, đôi khi dùng gần như nguyên văn. Chỉ có 15% nhắc đến AI. Một số lời giải thích gần như trùng khớp với cách diễn đạt của tác tử AI. Những người tham gia đã sử dụng lại cách diễn đạt này trong các câu trả lời tiếp theo. | Ảnh: Anthropic Nhật ký trao đổi cho thấy tác tử AI đã nêu quan điểm trước trong 77% số quyết định. Sau đó, công cụ này thường chỉ lập luận cho phương án mà nó ưu tiên mà không giải thích lý do tại sao các chuyên gia có năng lực có thể chọn phương án thay thế, dù báo cáo cho biết công cụ có giải thích việc lựa chọn phương án khác sẽ ảnh hưởng thế nào đến kết quả. Những người tham gia cũng làm việc nhanh hơn đáng kể và mắc ít sai sót hơn khi có AI hỗ trợ. Khi không có tác tử AI, 55% số phân tích (tương đương 6/11 trường hợp) gặp lỗi nghiêm trọng về phương pháp hoặc lập trình, với thời gian trung vị là 90 phút. Khi có AI, chỉ 6% số phân tích (tương đương 3/50 trường hợp) có lỗi nghiêm trọng và người tham gia hoàn thành trong 65 phút. Nhóm nhỏ làm việc không có AI là những người đã chủ động chọn không sử dụng công cụ này và có chuyên môn thấp hơn một chút, do đó các nhà nghiên cứu chưa thể khẳng định chắc chắn mức độ chênh lệch bắt nguồn trực tiếp từ AI. Đồng thuận giả tạo và sự suy giảm các biện pháp kiểm soát an toàn Các nhà nghiên cứu nhận định sự phục tùng thầm lặng này có thể gây ra những hệ lụy sâu rộng trong khoa học. Nếu nhiều nhóm nghiên cứu cùng sử dụng một mô hình với các thiên hướng mặc định cố định, họ có thể vô tình tạo ra sự đồng thuận giả tạo.