Công nghệ gắn dấu chìm văn bản AI có thể không đáp ứng các quy định mới của EU

Liên minh châu Âu hiện yêu cầu văn bản do AI tạo ra phải được gắn thủy vân để có thể nhận biết nguồn gốc. Tuy nhiên, các thử nghiệm đối với textGrain—công nghệ thủy vân mới của OpenAI được công bố vào tháng 10 nhằm tuân thủ quy định mới của EU—cho thấy dấu thủy vân thường không duy trì được sau khi văn bản bị chỉnh sửa hoặc đối với các văn bản dưới 150 từ. Do chưa có tiêu chuẩn pháp lý rõ ràng về hiệu quả của công nghệ này, hiện vẫn chưa rõ liệu textGrain có đáp ứng các quy định về tính minh bạch của châu Âu hay không. Điều này có thể khiến OpenAI phải chịu tổn thất tài chính đáng kể và gây khó khăn cho việc phát hiện văn bản do AI tạo ra khi các mô hình ngày càng trở nên phức tạp. Các mô hình AI tính toán xác suất của các token tiềm năng tiếp theo (từ hoặc phần từ tiếp theo được tạo ra) dựa trên phần văn bản đã có, sau đó chọn một token và lặp lại quy trình này cho đến khi hoàn tất câu trả lời. Ông Xiang Li, đồng tác giả báo cáo kỹ thuật về textGrain và là nghiên cứu sinh sau tiến sĩ tại University of Pennsylvania, lấy ví dụ: sau câu lệnh “thời tiết hôm nay…”, mô hình có thể cân nhắc giữa “ấm áp” hoặc “mát mẻ” làm từ tiếp theo. Thủy vân sử dụng một khóa bí mật để tạo ra các giá trị giả ngẫu nhiên: những con số được tạo ra qua một quy trình toán học nhằm chi phối token mà mô hình sẽ gợi ý. Ông Li cho biết quy trình này tạo ra một quy luật thống kê trong văn bản, giúp công cụ phát hiện có cùng khóa bí mật có thể nhận diện được. Điểm khác biệt của textGrain so với các công nghệ thủy vân khác là việc sử dụng entropy—thước đo mức độ khó dự đoán trong việc lựa chọn từ ngữ của mô hình—như một nguồn tài nguyên có thể phân bổ khi nhúng thủy vân. Các nhà phát triển sẽ xác định mức độ entropy hoặc độ khó đoán được phép, và textGrain sẽ tự điều chỉnh theo mục tiêu đó. Ông Li nhận định phương pháp này giúp các nhà phát triển kiểm soát tốt hơn sự cân bằng giữa việc nhúng một tín hiệu có thể nhận diện và duy trì tính đa dạng trong nội dung đầu ra của mô hình: “Chúng ta có thể xem entropy như một nguồn tài nguyên, một dạng tiền tệ. […] Với phương pháp của chúng tôi, chúng ta có thể xác định chính xác lượng tài nguyên cần tiêu thụ”. Hạn chế trong việc phát hiện thủy vân AI Dấu thủy vân vô hình đối với người đọc. Tuy nhiên, kết quả dương tính không phản ánh mức độ đóng góp của con người vào đoạn văn, và kết quả âm tính cũng không chứng minh văn bản đó hoàn toàn do con người viết. Tỷ lệ dương tính giả của OpenAI là 1%, nghĩa là công cụ phát hiện được thiết kế để nhận diện sai khoảng một trong mỗi 100 đoạn văn không được gắn thủy vân. Trong các thử nghiệm với các câu hỏi tâm lý học từ cơ sở dữ liệu ELI5 (thu thập câu hỏi và câu trả lời từ diễn đàn /r/explainlikeimfive trên Reddit), mô hình phát hiện được thủy vân ở khoảng 80% văn bản có độ dài 200 token (khoảng 150 từ), so với mức 95% ở văn bản dài 400 token (khoảng 300 từ). Ông Li cho biết đây là “hạn chế cơ bản” của công nghệ gắn thủy vân văn bản và rất khó giải quyết. Ông cho biết thêm rằng các đoạn văn ngắn có thể không chứa đủ dữ liệu thủy vân để phát hiện một cách đáng tin cậy, ngay cả khi tăng cường năng lực tính toán, trong khi các đoạn văn dài hơn nhìn chung cung cấp nhiều dữ liệu hơn. Việc chỉnh sửa văn bản cũng làm suy yếu tín hiệu. Theo OpenAI, trong đánh giá đối với các đoạn văn dài 400 token, việc thay thế chỉ 10% số từ bằng từ đồng nghĩa đã làm giảm tỷ lệ phát hiện từ 92% xuống 66%; việc thay thế tới 25% số từ khiến tỷ lệ phát hiện giảm mạnh xuống còn 17%. Ông Li giải thích rằng do thủy vân phụ thuộc vào các token đứng trước, việc thay đổi một từ có thể phá vỡ tín hiệu ở nhiều vị trí. OpenAI cho biết chỉ riêng công nghệ thủy vân là không đủ để xác định nội dung có phải do AI tạo ra hay không. TextGrain sẽ “bổ trợ” cho các công cụ xác thực nguồn gốc khác, chẳng hạn như chứng thực nội dung trong siêu dữ liệu (metadata) và công nghệ thủy vân SynthID do Google DeepMind phát triển cho hình ảnh ... và các đầu ra âm thanh. OpenAI đã không phản hồi yêu cầu bình luận. Nghĩa vụ minh bạch theo Đạo luật Trí tuệ nhân tạo của Liên minh châu Âu (EU AI Act) Các nghĩa vụ minh bạch tại Điều 50 của Đạo luật EU AI Act đã chính thức có hiệu lực từ ngày 02/8. Đạo luật quy định các nhà cung cấp hệ thống tạo âm thanh, hình ảnh, video hoặc văn bản tổng hợp phải đánh dấu dữ liệu đầu ra dưới định dạng máy có thể đọc được, nhằm nhận diện các nội dung được tạo hoặc can thiệp bằng trí tuệ nhân tạo. Theo luật định, các giải pháp kỹ thuật phải bảo đảm “hiệu quả, có khả năng tương tác, bền vững và đáng tin cậy trong phạm vi khả thi về mặt kỹ thuật”. Bộ Quy tắc thực hành của EU đưa ra phương thức tự nguyện để các nhà cung cấp chứng minh mức độ tuân thủ. Bộ quy tắc này không bắt buộc gắn watermark (dấu bản quyền số) đối với các dữ liệu đầu ra có độ dài dưới 200 token. Ông Thomas Souverain, nghiên cứu viên sau tiến sĩ về Đạo đức AI tại Viện Nghiên cứu Giáo dục nâng cao Paris, cho biết văn bản pháp luật hiện vẫn có những cách hiểu khác nhau. Ông Souverain nhận định phương pháp luận ban đầu của textGrain có vẻ đáng tin cậy và có thể đạt hiệu quả cao hơn các đối thủ cạnh tranh trong việc xác định văn bản do AI tạo ra. Phía OpenAI cho biết textGrain đạt kết quả tương đương hoặc vượt trội so với SynthID Text của Google trong các thử nghiệm nội bộ, tuy nhiên những kết quả này chưa được xác minh độc lập. Trước khi các nhà nghiên cứu độc lập có thể tiến hành kiểm nghiệm, và trong bối cảnh các tiêu chí của EU AI Act vẫn chưa có ngưỡng định lượng cụ thể, còn quá sớm để khẳng định textGrain có đáp ứng các yêu cầu pháp lý hay không. Ông Souverain cho biết: “Chúng tôi mới chỉ tiếp cận một nghiên cứu kỹ thuật... chưa có bài báo khoa học nào được bình duyệt độc lập, và chúng tôi [vẫn chưa] có quyền tiếp cận quy trình chuẩn xác [đối với textGrain]”. OpenAI đang hợp tác với một nhóm nghiên cứu giới hạn, bao gồm ông John Thickstun, Phó Giáo sư khoa học máy tính tại Đại học Cornell, và các nhà nghiên cứu tại Viện Công nghệ Thông minh Kempelen (KInIT) ở Bratislava, Slovakia. Ông Thickstun và ông Dominik Macko, nghiên cứu viên cao cấp tại KInIT, cho biết họ mới chỉ được cấp quyền truy cập và chưa bắt đầu đánh giá hệ thống. Ông Macko thông tin nhóm của ông dự kiến sẽ kiểm tra “tính bền vững” của textGrain trên các lĩnh vực chuyên môn, ngôn ngữ và độ dài văn bản khác nhau. Nếu textGrain bị kết luận không đáp ứng các tiêu chuẩn của EU, ông Souverain cho biết OpenAI có thể phải đối mặt với mức phạt lên tới 7% doanh thu hằng năm. Bên cạnh đó, ông Souverain cũng kêu gọi OpenAI mở mã nguồn textGrain để các nhà nghiên cứu ngoài dự án có thể “chỉ ra mọi lỗi sai, các trường hợp diễn đạt lại và lỗi dịch thuật tiềm ẩn” của mô hình thông qua việc tìm cách phá vỡ hệ thống. Ông nhận định: “Tôi nhận thấy lợi ích của doanh nghiệp, nếu một lỗ hổng lớn hay một điểm yếu nghiêm trọng bị phát hiện, [thì] việc đó được phát hiện trong âm thầm”.