OpenAI sẽ bắt đầu đóng dấu bản quyền văn bản của ChatGPT tại Liên minh châu Âu

OpenAI sẽ bắt đầu thêm một hình mờ vô hình vào văn bản được tạo bởi ChatGPT và Codex tại Liên minh châu Âu (EU) để tuân thủ Đạo luật AI của EU, công ty cho biết hôm thứ Hai trong một bài đăng trên blog. Các quy định về tính minh bạch của Đạo luật AI của EU, có hiệu lực từ ngày 2/8, yêu cầu các công ty AI phải đánh dấu nội dung do AI tạo ra theo cách mà các hệ thống khác có thể nhận diện. OpenAI cho biết hình mờ sẽ được triển khai trong vài tuần tới cho những người dùng ChatGPT và Codex đủ điều kiện trên tất cả các gói, nhưng chỉ ở EU. Các nhà phát triển sử dụng API của OpenAI ở bất kỳ đâu trên thế giới có thể bật tính năng này cho các mô hình được chọn bắt đầu từ hôm nay; tính năng này mặc định là tắt. OpenAI cho biết họ không đặt hình mờ văn bản làm mặc định toàn cầu khi ra mắt. Hình mờ không phải là một biểu tượng thực tế, mà hoạt động bằng cách định hình một cách tinh tế các lựa chọn từ ngữ của mô hình, để lại một mẫu mà người đọc không thể nhìn thấy, nhưng một công cụ phát hiện có thể nhận ra. Vì nó nằm trong chính các từ ngữ, nên nó sẽ đi kèm với văn bản khi được sao chép và dán. OpenAI cho biết hình mờ không nhận diện người dùng và họ không thấy sự thay đổi đáng kể nào trong hiệu suất của các mô hình khi bật tính năng này. OpenAI cũng đã công bố một báo cáo kỹ thuật về phương pháp của mình, được gọi là textGrain, cùng với thông báo. Được đồng viết với các nhà nghiên cứu từ Đại học Pennsylvania và Yale, báo cáo trình bày một ví dụ về việc sử dụng khóa bí mật để sắp xếp các dự đoán từ tiếp theo nhằm hoàn thành câu. Thêm hàng trăm gợi ý này lại với nhau, và công cụ phát hiện có thể nhận ra nội dung do AI tạo ra chỉ bằng cách sử dụng văn bản và khóa. Liệu hình mờ có thể bị xóa bằng cách chỉnh sửa không? Các thử nghiệm của OpenAI cho thấy có thể. Trong một thử nghiệm, việc thay thế 10% từ bằng từ đồng nghĩa đã làm giảm khả năng phát hiện từ khoảng 92% xuống 66%. Công ty cũng cho biết các đoạn văn ngắn, câu trả lời toán học và văn bản dịch khó phát hiện hơn. "Những hạn chế này góp phần vào quyết định của chúng tôi là chỉ cung cấp quyền truy cập công cụ phát hiện ban đầu cho các nhà nghiên cứu và tổ chức chuyên gia được phê duyệt, những người có thể giúp chúng tôi đánh giá độ tin cậy và các cách sử dụng có trách nhiệm," công ty cho biết. OpenAI cũng cảnh báo rằng việc thiếu hình mờ "không chứng minh được tác giả là con người." Văn bản có thể quá ngắn hoặc bị chỉnh sửa quá nhiều, hoặc nó có thể đến từ AI của một công ty khác. "Hình mờ có thể chỉ ra rằng một hệ thống của OpenAI đã tạo ra hoặc xử lý một phần của đoạn văn, nhưng không cho biết mức độ phán đoán, chỉnh sửa hoặc sáng tạo của con người đã được đưa vào đó," công ty cho biết. Thông báo được đưa ra hai tháng sau khi Anthropic cho biết họ sẽ thêm hình mờ vào văn bản do Claude tạo ra, một động thái đang được áp dụng trên toàn thế giới. Quyết định đó đã vấp phải phản ứng dữ dội từ một số người dùng Claude, những người lập luận rằng họ đã cung cấp "các hướng dẫn, ngữ cảnh, quyết định" trong khi Claude chỉ là "công cụ." OpenAI đã từng xây dựng một hình mờ văn bản trước đây nhưng đã trì hoãn việc phát hành, một phần vì lo ngại rằng người dùng sẽ chuyển sang các đối thủ không sử dụng hình mờ, The Wall Street Journal đưa tin vào năm 2024. Anthropic, Google, Meta, Microsoft và OpenAI nằm trong số các công ty đã cam kết tuân thủ quy tắc ứng xử của EU về nội dung do AI tạo ra. Aditya Mehta là phóng viên của TechCrunch chuyên đưa tin về AI. Anh được hỗ trợ bởi Trung tâm Báo chí AI Tarbell và từng theo học tại Đại học UC Berkeley. Bạn có thể liên hệ với Aditya qua email aditya.mehta@techcrunch.com hoặc qua tin nhắn mã hóa tại adymehta.74 trên Signal. Xem tiểu sử Ngày 13 – 15 tháng 10 San Francisco Giảm 50% cho vé thứ hai Trải nghiệm Disrupt được thiết kế để chia sẻ. Hãy mua vé của bạn và mời một đồng nghiệp, đối tác hoặc bạn bè cùng tham dự với ưu đãi giảm 50%. Mở rộng phạm vi kết nối, tạo đà phát triển và khám phá những điều mới mẻ trong hệ sinh thái khởi nghiệp. ĐẶT VÉ NGAY Phổ biến nhất Thẩm phán liên bang gọi Flock là ‘giám sát hàng loạt không phân biệt’ Anthony Ha Amazon phản hồi về phản ứng dữ liệu trung tâm, cho biết không còn sử dụng NDA Anthony Ha Meta muốn thiết bị tiếp theo của bạn được tích hợp Muse Kirsten Korosec Google cho rằng Starship của SpaceX phải phóng 1.800 lần trước khi các trung tâm dữ liệu không gian đi vào hoạt động Tim Fernholz Nhà máy điện địa nhiệt tăng cường đầu tiên trên thế giới hoàn thành chỉ trong 23 tháng Tim De Chant Google phát hành Gemini 4 Argon, được gọi là mô hình mạnh nhất từ trước đến nay Lucas Ropek Lầu Năm Góc mời Elon Musk và Palmer Luckey giúp quyết định những gì quân đội nên làm tiếp theo Dominic-Madori Davis