Bảo vệ cánh cổng tri thức

Việc theo dõi mạng xã hội gần đây đã đặt ra nhiều suy ngẫm về niềm tin. Khoảng một nửa nguồn cấp tin tức tràn ngập rác thông tin AI (AI slop) mà những người dùng nhạy bén dễ dàng nhận diện là sản phẩm do máy móc tạo ra. Điều này thường gây bối rối cho những người vô tình lan truyền, nhưng đôi khi lại mang đến sự thích thú cho những đối tượng cố tình chia sẻ vì mục đích tiêu khiển hoặc gây nhiễu loạn thông tin. Thời kỳ đầu của GPT-3 từng chứng kiến việc người dùng có thể đặt bất kỳ câu hỏi nào cho chatbot và nhận lại câu trả lời có vẻ hợp lý nhưng hoàn toàn sai lệch chỉ trong chớp mắt, với giọng điệu đầy tự tin. Đó cũng là thời điểm thuật ngữ "ảo giác" (hallucination) trong các câu trả lời của AI bắt đầu xuất hiện trong ngôn ngữ đời thường. Sáu năm trôi qua cùng nhiều phiên bản chatbot khác nhau, độ tin cậy của các câu trả lời vẫn là một dấu hỏi lớn, dù Claude hay Gemini thường hỗ trợ công việc rất hiệu quả. Đặc điểm cố hữu của AI hiện nay là: "Tin tưởng nhưng phải kiểm chứng", và việc kiểm chứng là điều bắt buộc. Khi áp dụng nguyên tắc trên ở quy mô rộng hơn nhằm duy trì tính toàn vẹn của các tài liệu khoa học, có thể thấy rõ thách thức to lớn mà các nhà xuất bản học thuật có bình duyệt (peer-review) đang phải đối mặt. Trong bài viết "Tôi đã dùng AI để làm giả một bài báo khoa học" (I Used AI to Fake a Scientific Paper), tác giả tự do kiêm tiến sĩ toán học ứng dụng Benjamin Skuse đã kể lại câu chuyện về những người gác cổng tri thức đang nỗ lực ngăn chặn làn sóng rác thông tin AI, thông qua thử nghiệm gửi các bài báo do chính AI tạo ra để vượt qua hàng rào kiểm duyệt của IEEE. "Về cơ bản, tác giả chỉ cần nhấn lệnh 'chạy thử nghiệm' và 'viết bài'. Sau đó không can thiệp thêm bất kỳ thao tác nào." — Eliza Strickland Theo chia sẻ của bà Eliza Strickland, biên tập viên chuyên đề và mảng AI, ông Skuse đã rất bất ngờ trước sự dễ dàng khi tạo ra một bài báo trông có vẻ hợp lý và mang dáng dấp khoa học. Đối với một trong những thử nghiệm, bà cho biết: "Về cơ bản, tác giả chỉ cần nhấn lệnh 'chạy thử nghiệm' và 'viết bài', sau đó không can thiệp thêm bất kỳ thao tác nào, chỉ việc gửi thẳng bài viết vào quy trình xuất bản". Ông Skuse nhận thấy sự kết hợp giữa quy trình thẩm định của con người và các chương trình kiểm tra tính liêm chính nghiên cứu của IEEE hiện vẫn theo kịp cuộc chơi "mèo vờn chuột" với những người sử dụng các công cụ miễn phí. Tuy nhiên, các mô hình ngôn ngữ lớn (LLM) tiên tiến hơn không còn mắc phải những lỗi sơ đẳng như các phiên bản miễn phí. Thực trạng này đẩy các nhà xuất bản vào một cuộc chạy đua vũ trang giữa các nội dung rác ngày càng tinh vi và những hệ thống được thiết kế để phát hiện chúng. Các nhà xuất bản học thuật không phải là đơn vị duy nhất nỗ lực chống lại làn sóng rác thông tin AI. Wikipedia, kho lưu trữ tri thức toàn cầu do con người tạo dựng, cũng đang trong tình thế tương tự. Trong chuyên mục "Năm câu hỏi" (Five Questions) tháng này, bà Strickland đã phỏng vấn bà Ellia Lebleu, thành viên sáng lập của WikiProject AI Cleanup – một sáng kiến tình nguyện nhằm phát hiện và loại bỏ các nội dung do AI tạo ra khỏi nền tảng. Đội ngũ của bà Lebleu đang đối mặt với cùng một vấn đề như các nhà xuất bản thương mại, nhưng với nguồn nhân lực và công cụ hạn chế hơn nhiều. "Wikipedia được biết đến là kho lưu trữ thông tin do con người tạo ra, và họ muốn duy trì giá trị đó", bà Strickland nhận định. "Tuy nhiên, không ai biết họ có thể duy trì được điều này trong bao lâu". Nếu xã hội không còn có thể tin tưởng vào tính xác thực của các hồ sơ khoa học hay độ chính xác của các sự thật cơ bản về thế giới, thì nhận thức về thực tại sẽ rơi vào trạng thái bất định. Điều đó có thể làm hài lòng các nhà khoa học lượng tử hoặc những kẻ cơ hội vốn trục lợi trong một môi trường thông tin thiếu thực tế chung. Tuy nhiên, sự bất định đó về lâu dài sẽ làm xói mòn niềm tin vào các thiết chế có sứ mệnh lưu giữ kho tàng tri thức của nhân loại và thúc đẩy sự tiến bộ của khoa học - công nghệ vì lợi ích của con người. Hoặc có lẽ trong một thế giới nơi AI đảm nhận việc nghiên cứu khoa học và viết các bài báo, việc con người có tin tưởng vào kết quả hay không sẽ không còn là vấn đề quan trọng. Như bà Strickl và nhận định: “Chẳng phải thật khó tin khi đến một thời điểm nào đó, AI sẽ viết cho các hệ thống AI khác? Khi đó, con người sẽ hoàn toàn đứng ngoài cuộc”.