Căn chỉnh AI bị coi là có hại

Togelius: Căn chỉnh AI bị coi là có hại Chuyển đến nội dung chính | Chuyển đến thanh bên Togelius Nâng cao trải nghiệm trò chơi thông qua các thuật toán Chủ nhật, ngày 08/11/2026 Căn chỉnh AI bị coi là có hại Nhiều nhà nghiên cứu quan tâm đến tương lai tích cực của AI hiện đang chú trọng vào vấn đề "căn chỉnh AI" (AI alignment). Khái niệm này đồng nghĩa với việc bảo đảm các mô hình AI và các hệ thống phát triển dựa trên chúng phải tương thích với các giá trị của nhân loại, về cơ bản là bảo đảm AI hành xử thân thiện với con người. Những người cho rằng các hệ thống AI sẽ tự hoàn thiện và vượt trội hơn con người về mọi mặt thường coi việc căn chỉnh AI là nhiệm vụ đặc biệt quan trọng. Lập luận đặt ra là AI siêu trí tuệ có thể thâu tóm thế giới, do đó hệ thống này nhất thiết phải đạt chuẩn mực về đạo đức. Có nhiều lý do để bác bỏ lập luận này. Trước hết, AI cần được căn chỉnh theo hệ quy chiếu nào? Muốn căn chỉnh các mô hình theo nhân loại, cần phải giả định rằng tồn tại một học thuyết đạo đức chung được toàn thể nhân loại đồng thuận. Trên thực tế, điều này hoàn toàn không tồn tại. Sự bất đồng diễn ra sâu sắc trong cả đời sống chính trị lẫn tôn giáo. Thuyết phổ quát đạo đức (moral universalism) cho rằng mọi tôn giáo và nhân sinh quan đều chia sẻ một cốt lõi đạo đức chung; song luận điểm này không có cơ sở xác đáng. Chế độ đẳng cấp, quyền của người LGBT, tội bỏ đạo, vai trò của gia đình, bạo lực và nhà nước là những ví dụ điển hình cho thấy sự chia rẽ sâu sắc. Trong số các thế giới quan phi tôn giáo, chủ nghĩa nhân văn, chủ nghĩa tự do cá nhân (libertarianism), chủ nghĩa xã hội và chủ nghĩa phát xít cũng tồn tại những xung đột đối kháng trực tiếp. Những người nghiên cứu về căn chỉnh AI đều nhận thức được thực tế này. Nhóm ý kiến này thường khẳng định sự tồn tại của những nguyên tắc nền tảng mà phần lớn xã hội có thể đồng thuận, chẳng hạn như tính thiêng liêng của mạng sống hay quyền bất khả xâm phạm về thân thể của mỗi cá nhân. Tuy nhiên, dù có thể đồng thuận trên lý thuyết, xã hội vẫn chia rẽ sâu sắc trước các vấn đề thực tiễn gắn liền với các nguyên tắc đó, điển hình như việc nạo phá thai, quyền tự vệ và án tử hình. Việc cố chấp tìm kiếm một sự đồng thuận tuyệt đối là điều phi thực tế, nhất là khi nhân loại đã tranh luận về vấn đề này trong suốt 2.500 năm qua. Xã hội tiến bộ được xây dựng trên tiền đề rằng con người khó có thể đạt được sự nhất trí hoàn toàn về các giá trị sống, và giải pháp tối ưu là kiềm chế lẫn nhau thông qua các biện pháp phi bạo lực, cụ thể là cơ chế dân chủ. Ngược lại, trong lịch sử, những cá nhân và tổ chức gây ra nhiều thảm họa nhất lại là những thế lực tin rằng họ nắm giữ Chân lý tuyệt đối về cách nhân loại phải sống, từ đó tự cho mình quyền áp đặt người khác phải tuân theo Chân lý đó bằng bạo lực. Về bản chất, mục tiêu căn chỉnh AI đang trao cho các nhà phát triển mô hình quyền quyết định chuẩn mực mà AI phải tuân theo. Nhóm này phần lớn là giới công nghệ da trắng giàu có ở độ tuổi 30 tại San Francisco. Dù không phủ nhận năng lực của nhóm người này, việc trao cho họ thẩm quyền phân xử giữa triết học Kant và Aristotle thay cho toàn bộ phần còn lại của thế giới là điều không hợp lý. Mọi nỗ lực căn chỉnh hệ thống AI theo một hệ giá trị nhất định về bản chất đều mang tính áp đặt, bởi quá trình này định hình cách tư duy và giới hạn những tác vụ được phép thực hiện. Dù sự lựa chọn các chuẩn mực của Anthropic hay Sam Altman có thể ít rủi ro hơn các chế độ cực đoan, việc duy trì tư duy độc lập của con người vẫn là yếu tố mang tính quyết định. Đáng chú ý là tính bất khả thi trong việc lựa chọn chuẩn mực căn chỉnh cho các mô hình AI thậm chí chưa phải là điểm đáng lo ngại nhất. Vấn đề cốt lõi nằm ở việc nhân loại đang dần mất đi sự cảnh giác. Ở cấp độ cá nhân, việc ỷ lại rằng các mô hình sẽ luôn tư duy và hành động đúng đắn sẽ dẫn đến tâm lý chủ quan, từ đó con người dần từ bỏ khả năng phán đoán cũng như quyền tự quyết của chính mình cho các hệ thống máy móc. Điều này là tiêu cực nếu con người vẫn muốn duy trì năng lực đưa ra các quyết định cá nhân. Cần có những lý do thực tiễn để duy trì sự hoài nghi, và việc thỉnh thoảng được nhắc nhở rằng máy tính không hoàn toàn là một người bạn sẽ mang lại tác dụng tích cực. Xét trên bình diện xã hội, quan niệm cho rằng có thể luôn dựa vào các mô hình AI là một sai lầm nghiêm trọng. Nếu tin tưởng tuyệt đối rằng mô hình đã được căn chỉnh chuẩn mực (aligned), xã hội có thể lơ là các biện pháp bảo vệ cần thiết, bao gồm các cơ chế kiểm soát kỹ thuật, hoạt động kiểm thử đối kháng (red-teaming) với các mô hình khác và yêu cầu bắt buộc về sự giám sát của con người. Khi đó, nếu xảy ra tình huống mô hình không còn tương thích với lợi ích của con người, hậu quả sẽ rất khôn lường; hoặc khi xuất hiện các cá nhân sử dụng mô hình chưa được căn chỉnh (hoặc căn chỉnh theo chiều hướng khác). Bởi lẽ, các hệ thống AI chưa được căn chỉnh sẽ luôn tồn tại. Khi nắm được các trọng số của mô hình (weights), việc thay đổi định hướng căn chỉnh là điều hoàn toàn dễ dàng. Ngay cả khi không có các mô hình trọng số mở (open-weight) vượt trội, sự cạnh tranh giữa nhiều nhà phát triển AI vẫn sẽ tạo ra động lực thương mại để một số bên chế tạo các mô hình có định hướng khác biệt cùng các biện pháp an toàn bị cắt giảm. Những mô hình như vậy rất hữu ích vì chúng mang lại năng lực xử lý mạnh mẽ. Do đó, bối cảnh duy nhất để một phương thức căn chỉnh cụ thể đạt mức "ổn định" là chỉ có một doanh nghiệp duy nhất độc quyền cung cấp các mô hình AI tiên tiến. Nhưng liệu các tập đoàn AI lớn với mức định giá hàng nghìn tỷ USD có đang tìm cách độc quyền thị trường hay không? Một thế giới đa nguyên với nhiều hệ giá trị và lối sống khác nhau đòi hỏi sự tồn tại của nhiều mô hình AI riêng biệt, vốn dĩ không mặc định đồng thuận với nhau. Thực tế này đòi hỏi phải xây dựng một xã hội không đặt niềm tin tuyệt đối vào các tác tử AI (AI agents), đồng thời phải thiết lập hệ thống an ninh mạng vững chắc, đa tầng và đa dạng, tương tự như các xã hội dân chủ được vận hành dựa trên hệ thống kiểm tra và cân bằng phức tạp. Cần thường xuyên nhận thức rằng không thể mặc định tin tưởng vào ý định của con người hay các hệ thống AI. Vì vậy, những nỗ lực nhằm cấm đoán các mô hình AI chưa căn chỉnh hoặc áp đặt mọi mô hình phải căn chỉnh theo một khuôn mẫu duy nhất sẽ gây tổn hại trực tiếp đến khả năng chống chịu của mỗi cá nhân và toàn xã hội. Điều này có đồng nghĩa với việc không nên nghiên cứu về căn chỉnh AI? Hoàn toàn không. Rất nhiều nghiên cứu kỹ thuật giá trị đã được thúc đẩy từ mục tiêu căn chỉnh AI, điển hình là phương pháp học tăng cường từ phản hồi của con người (RLHF). Bên cạnh đó, các mô hình cũng cần quá trình hậu huấn luyệ