Sự lừa dối lớn của AI tác nhân

AI tác nhân Sự lừa dối lớn của AI tác nhân Những gì sự phụ thuộc quá mức vào tư vấn bên ngoài dạy chúng ta về việc ủy thác trí tuệ của mình cho máy móc Chinmay Kakatkar Ngày 10/7/2026 Đọc 25 phút Chia sẻ Hình ảnh của Gerd Altmann từ Pixabay Đọc qua làn sóng bài viết, bài bình luận và dự báo mới nhất từ các nhà tư vấn và nhà cung cấp AI, tất cả đều tự tin dự đoán sự tiếp quản công việc của con người sắp xảy ra bởi AI tác nhân, tôi gần đây đã nghĩ về năm đầu tiên của mình tại Imperial College London, vào năm 2009. Giảng viên của chúng tôi cho khóa học lập trình giới thiệu thường khuyên chúng tôi phác thảo các giải pháp cho các bài tập khóa học bằng bút và giấy trước khi lập trình chúng trên máy tính, bởi vì quá trình viết và vẽ bằng tay chậm hơn, có chủ ý hơn đó có thể giúp thiết lập sự hiểu biết sâu sắc hơn về chủ đề và dẫn đến các giải pháp tốt hơn. Ngày nay, lời khuyên đó dường như phù hợp hơn bao giờ hết. Lời hứa hấp dẫn của AI đã thu hút các cá nhân, tổ chức và chính phủ. Một sinh viên nộp một bài luận do AI tạo ra, bỏ qua cuộc đấu tranh nhận thức mà qua đó viết trở thành hiểu. Một công ty thay thế nhân viên con người bằng các tác nhân AI, loại bỏ kiến thức ngầm, thể chế cần thiết để đánh giá đầu ra của AI. Một tòa án bổ sung các quyết định tuyên án bằng các điểm rủi ro thuật toán không rõ ràng và có khả năng thiên vị. Dù động cơ trong mỗi trường hợp là gì, việc nhượng lại nhận thức, phán đoán và trách nhiệm cho AI có thể trở thành mặc định theo thời gian, cho đến khi sự phụ thuộc của chúng ta vào AI — và các bên trong hệ sinh thái rộng lớn hơn của nó — trở nên ăn sâu và bình thường hóa đến mức việc đảo ngược dường như không cần thiết cũng không khả thi. Sự từ bỏ quyền tự chủ của con người này đã đủ đáng lo ngại. Điều khiến nó đáng lo ngại hơn là đầu ra AI trông bóng bẩy đang được tham khảo, khi xem xét kỹ hơn, thường chỉ có giá trị chung chung, và đôi khi đơn giản là sai. Có một sự tương đồng sáng tỏ ở đây với ngành tư vấn quản lý, ngành này thực hiện một mánh lừa đảo, hay "con", tương tự một cách đáng kinh ngạc. Các nhà tư vấn thường xuyên đóng gói các phân tích chung chung trong các bài thuyết trình bóng bẩy và đưa ra sự chắc chắn trong các khuyến nghị của họ lớn hơn nhiều so với bằng chứng cơ bản có thể chứng minh. Các tổ chức phụ thuộc hoàn toàn vào các nhà tư vấn bên ngoài dần dần mất khả năng tự suy nghĩ. Các nhà tư vấn có thể sai, cả về chất lượng hiểu biết sâu sắc và hành vi đạo đức của họ, và các hệ thống AI, về bản chất, là những bộ khớp mẫu xác suất không có giá trị nội tại và không có trách nhiệm giải trình đối với các đầu ra mà chúng tạo ra. Cả hai đều có được quyền lực của mình ít từ sự đúng đắn đã được chứng minh hơn là từ sự bất đối xứng giữa sự tự tin mà các khuyến nghị của họ được đưa ra và khả năng thách thức chúng của khách hàng ngày càng giảm. Lấy động lực cấu trúc của ngành tư vấn làm một phép loại suy mang tính hướng dẫn, bài viết này tổng hợp những gì chúng ta biết về sự phụ thuộc ngày càng tăng của chúng ta vào AI tác nhân, theo dõi các rủi ro của sự phụ thuộc quá mức ở cấp độ cá nhân, tổ chức và xã hội, và đề xuất các cách để lấy lại quyền tự chủ ở mỗi cấp độ đó trước khi khả năng làm như vậy của chúng ta mất đi không thể phục hồi. Mánh lừa đảo ban đầu Năm 2023, các nhà kinh tế Mariana Mazzucato và Rosie Collington đã xuất bản cuốn sách "The Big Con", lập luận rằng sự kết hợp của các cấu trúc khuyến khích, bất đối xứng thông tin và áp lực thể chế đã cho phép ngành tư vấn quản lý thu về lợi nhuận vượt quá giá trị mà nó tạo ra. Chắc chắn, những khách hàng tinh vi sẽ ngừng thuê các công ty đắt đỏ không mang lại hiệu quả? Không hẳn vậy, vì một khách hàng đã thuê ngoài một chức năng chiến lược trong nhiều năm có thể không còn sở hữu chuyên môn nội bộ để đánh giá xem lời khuyên nhận được có đúng đắn hay không, đây là một động lực chính duy trì sự gắn kết. Sự tương đồng với các nhà cung cấp AI hiện nay là đáng chú ý: tích hợp sâu rộng, chi phí cao và một lượng khách hàng ngày càng ít khả năng đánh giá những gì họ đang được bán. Mặc dù có hàm ý về âm mưu, vấn đề trung tâm mà "The Big Con" nêu bật mang tính cấu trúc hơn là đạo đức. Nhiều nhà tư vấn trong câu chuyện của Mazzucato và Collington thực sự cố gắng tạo ra tác động tích cực, và nhiều quan chức thuê họ đã cố gắng hết sức để hành động có trách nhiệm dưới áp lực ngân sách và nhân sự. Sự sắp xếp này không đòi hỏi sự hoài nghi từ các nhà tư vấn hay sự sơ suất từ khách hàng, mà đơn giản là việc ủy quyền lặp đi lặp lại được phép diễn ra theo lẽ tự nhiên. Cuối cùng, "The Big Con" không phải là một lời chỉ trích bất kỳ ngành hay cá nhân nào, mà là một lời cảnh báo về cách thị trường thưởng cho sự thiển cận. Thuê ngoài như một biện pháp "hợp lý hóa" có thể tạo ra một bức tranh tài chính thuận lợi giả tạo trong ngắn hạn, che chắn những người ra quyết định bằng cách ngoại hóa trách nhiệm, và làm suy yếu khả năng hoạch định chiến lược và thực hiện. Đó là sự tương đương của việc quản lý thể lực thông qua các huấn luyện viên cá nhân đắt tiền thay vì tự mình phát triển thói quen tập thể dục: không nghi ngờ gì, các huấn luyện viên có thể mang lại giá trị thực sự, nhưng họ cũng có thể xây dựng sự phụ thuộc (quá mức) thay vì sự tự chủ. Cơ chế hoạt động tương tự như mặt tối của điều mà các học giả quản lý gọi là "quên đi bằng cách không làm". Một tổ chức càng ít thực hiện một chức năng nội bộ, nó càng ít biết cách thực hiện; nó càng ít biết, nó càng cần sự giúp đỡ bên ngoài; và nó càng trả nhiều tiền cho sự giúp đỡ bên ngoài, nó càng ít xây dựng kiến thức mà cuối cùng sẽ khiến sự giúp đỡ bên ngoài trở nên không cần thiết. Một phong trào cải cách đã càn quét qua hành chính công từ những năm 1980 trở đi, ở Hoa Kỳ và các nơi khác, đã phổ biến chính xác logic này dưới khẩu hiệu "chỉ đạo nhiều hơn, thực hiện ít hơn". Nhưng Mazzucato và Collington chỉ ra lý do tại sao cách tiếp cận đó đã phản tác dụng đối với các chức năng mà việc thực hiện và chỉ đạo không thể tách rời rõ ràng. Như họ đã nói, "Một tổ chức càng ít thực hiện, nó càng ít học hỏi, nó càng kém hiệu quả: nó càng ít có thể chỉ đạo."