Anthropic đang phát triển hệ thống xác thực danh tính cho các mô hình AI

Theo bài đăng trên trang thông tin nội bộ vào ngày thứ Ba, Anthropic đang phát triển một hệ thống nguồn mở nhằm xác minh mô hình AI nào đã tạo ra một kết quả đầu ra cụ thể. Hệ thống có tên gọi FlashProve, được xây dựng để cung cấp giải pháp mà các nhà nghiên cứu gọi là "suy luận có thể chứng thực" (provable inference) — một bằng chứng mật mã học, về bản chất là một bảo đảm toán học, chứng minh kết quả đầu ra nhất định thực sự xuất phát từ một mô hình cụ thể. Mục tiêu của hệ thống là giúp người dùng xác nhận câu trả lời nhận được thực sự đến từ mô hình mà họ đang dự định sử dụng. Tương tự chữ ký mật mã trong thư điện tử cho phép người nhận xác nhận thư thực sự đến từ người gửi được khai báo, FlashProve có khả năng ngăn chặn các hành vi giả mạo mô hình này thành mô hình khác, ngay cả khi đối tượng giả mạo chính là đơn vị phát triển và vận hành mô hình đó. Cụ thể, các nhà nghiên cứu lưu ý rằng hệ thống có thể được sử dụng để ngăn chặn việc một công ty AI bí mật tráo đổi sang mô hình có chi phí thấp hơn nhằm tiết kiệm ngân sách, hoặc dùng mô hình đắt tiền hơn để thổi phồng kết quả hiệu năng. FlashProve cũng có thể được sử dụng để kiểm chứng tuyên bố của các bên thứ ba về việc một nhiệm vụ cụ thể đã được thực hiện bởi một mô hình tiên tiến. "Một nhà phát triển có thể tuyên bố rằng thư viện phần mềm của họ đã được quét lỗ hổng bảo mật bởi một mô hình an ninh mạng hàng đầu, hoặc một doanh nghiệp có thể tuyên bố kế hoạch kinh doanh của họ đã được một mô hình phù hợp thông qua", các nhà nghiên cứu viết. "Làm thế nào để người dùng có thể xác minh những tuyên bố này?" Để vận hành, hệ thống yêu cầu các phòng thí nghiệm AI công bố "dấu vân tay" của từng mô hình phát hành, từ đó đối chiếu với các kết quả đầu ra cụ thể và xác thực bằng phương pháp mật mã học. Đáng chú ý, các dấu vân tay này không làm lộ trọng số của mô hình — các thông số nội bộ quyết định phương thức vận hành mà các nhà sản xuất mô hình đóng như Anthropic và OpenAI luôn giữ bảo mật. Điều này đồng nghĩa với việc các phòng nghiên cứu có thể công bố dấu vân tay mà không làm mất đi tài sản giá trị nhất của mình, đồng thời cho phép hệ thống hoạt động với cả các mô hình thương mại. Hệ thống cũng được thiết kế tinh gọn để việc xác minh có thể thực hiện trực tiếp trên thiết bị cục bộ. Cùng với thông báo trên, các nhà nghiên cứu đã công bố bản đặc tả kỹ thuật chi tiết và mã nguồn hoạt động cho nhiều thành phần của hệ thống; tài liệu này được phát hành công khai theo giấy phép nguồn mở trên GitHub. Quá trình nghiên cứu hệ thống vẫn đang được tiếp tục và hiện chưa có kế hoạch triển khai tại Anthropic hay bất kỳ phòng thí nghiệm nào khác. "Bài viết nghiên cứu này nhằm chia sẻ tiến độ giai đoạn trung gian, không phải là một chương trình nghiên cứu đã hoàn tất", các nhà nghiên cứu giải thích trong bài thông báo. "Chúng tôi chia sẻ nội dung này với mục tiêu rõ ràng là để các bên liên quan xem xét, tiếp nhận và tiếp tục hoàn thiện". Chủ đề AI, Anthropic, mật mã học, suy luận Khi thực hiện mua sắm qua các liên kết trong bài viết của chúng tôi, chúng tôi có thể nhận được một khoản hoa hồng nhỏ. Điều này không ảnh hưởng đến tính độc lập trong công tác biên tập. Russell Brandom Biên tập viên AI Russell Brandom theo dõi và đưa tin về ngành công nghệ từ năm 2012, tập trung vào chính sách nền tảng và các công nghệ mới nổi. Trước đây, ông từng công tác tại The Verge và Rest of World, đồng thời viết bài cho Wired, The Awl và MIT Technology Review. Có thể liên hệ với tác giả qua địa chỉ [email protected] hoặc qua Signal theo số 412-401-5489. Xem tiểu sử Ngày 4/11 Boston Mua một vé, nhận thêm một vé miễn phí Gia tăng hiệu quả tham gia tại chương trình huấn luyện nhà sáng lập lớn nhất năm của TechCrunch với quyền tham dự miễn phí dành cho người đồng sáng lập hoặc đối tác Đăng ký trước khi chương trình ưu đãi "mua một tặng một" (BOGO) hết hạn Đăng ký ngay Tin đọc nhiều nhất Anthropic cảnh báo đã tiến rất gần đến năng lực RSI, tức AI tự hoàn thiện Julie Bort The New York Times cùng nhiều cơ quan báo chí khởi kiện trình duyệt Brave với cáo buộc thu thập nội dung trái phép Rebecca Bellan Báo cáo của FT cho biết Anthropic dự kiến bị các tổ chức xếp hạng tín dụng đánh giá ở mức "rác" cao sau đợt IPO Lucas Ropek Vệ tinh trung tâm dữ liệu đầu tiên của Google chính thức vận hành và sáng tác thơ Tim Fernholz Binance tạm ngừng tính năng rút tiền trước nghi vấn tin tặc đánh cắp hàng tỷ USD tiền mã hóa Zack Whittaker Trong bối cảnh lượng truy cập từ công cụ tìm kiếm suy giảm, Reddit thông báo chuyển sang mô hình trải nghiệm yêu cầu đăng nhập Sarah Perez Các cựu lãnh đạo Palantir thành lập Dream với 17 triệu USD vốn đầu tư từ a16z nhằm phát triển mô hình thế giới AI cho ngành xây dựng Marina Temkin