OpenAI tìm cách nâng cao Anthropic với các biện pháp bảo vệ quyền riêng tư của khách hàng mới

Khi các mô hình AI trở nên mạnh mẽ hơn, khả năng những mô hình đó bị lạm dụng cũng tăng lên - cũng như lời kêu gọi về các biện pháp bảo vệ an toàn có thể ngăn chặn hành vi lạm dụng đó xảy ra. Các công ty AI hiện phải thực hiện một sợi dây chặt chẽ giữa việc tôn trọng quyền riêng tư của khách hàng doanh nghiệp của họ đồng thời theo dõi việc sử dụng để phát hiện các vấn đề có thể xảy ra. Nhận thấy cơ hội vượt lên trên đối thủ Anthropic, OpenAI vừa công bố một phương pháp tiếp cận an toàn tập trung vào quyền riêng tư để giám sát hành vi sử dụng sai mục đích. Công ty đang xem trước một dịch vụ mới dành cho những khách hàng chọn lọc mà họ gọi là Xử lý An toàn Riêng tư. Đây là một hệ thống tự động theo dõi khả năng lạm dụng trong khi không giữ lại dữ liệu nào của khách hàng. Hệ thống này rõ ràng đi ngược lại chính sách lưu giữ dữ liệu được công bố gần đây của Anthropic. Chính sách này đã khiến một số khách hàng khó chịu, cho phép phòng thí nghiệm AI lưu giữ dữ liệu người dùng (tất cả các phiên của họ - và các cuộc trò chuyện trong đó) trong khoảng thời gian 30 ngày, đối với “các mô hình được bảo hiểm”. Công ty cho biết những mẫu này bao gồm tất cả các mẫu thuộc lớp Mythos và “các mẫu trong tương lai có khả năng tương tự”. Chính sách này, được công bố vào tháng 7, được thiết kế vì mục đích an toàn, cho phép phòng thí nghiệm sàng lọc và phân tích những hành vi không phù hợp tiềm ẩn. Tuy nhiên, nó gây lo ngại sâu sắc cho một số doanh nghiệp xử lý lượng lớn dữ liệu nhạy cảm và không muốn phòng thí nghiệm AI chứa chấp (hoặc kiểm tra) dữ liệu đó. OpenAI - giống như hầu hết các công ty AI khác - đã cung cấp cho khách hàng mức độ riêng tư tương đối bằng cách tuân thủ chính sách được gọi là Không lưu giữ dữ liệu. ZDR sử dụng các tác nhân trong API OpenAI để theo dõi tình trạng lạm dụng trên cơ sở mỗi phiên. Bằng cách này, dữ liệu khách hàng không được công ty lưu giữ nhưng các công ty vẫn có thể quét hoạt động xấu mà không cần sự can thiệp của con người. Điều đáng chú ý là Anthropic cũng phần lớn tuân thủ ZDR - ngoại trừ khi nói đến “các mô hình được bảo hiểm”, như Fable. OpenAI nói rằng Xử lý An toàn Riêng tư là một công nghệ mới giúp mở rộng phạm vi của ZDR. Nó mô tả nó như một hình thức giám sát an toàn trong thời gian dài nhằm đánh giá đầu vào và đầu ra của nhiều cuộc trò chuyện - không chỉ một cuộc trò chuyện. Một lần nữa, việc giám sát được thực hiện bởi một tác nhân, nếu được kích hoạt, tác nhân này sẽ nắm bắt các tương tác và phân tích chúng qua các phiên để tìm các dấu hiệu lạm dụng tiềm ẩn. Người phát ngôn nói với TechCrunch rằng công nghệ mới giúp OpenAI phát hiện việc sử dụng AI có mục đích xấu diễn ra trong nhiều phiên. Kẻ xấu — giả sử là ai đó đang cố gắng thiết kế phần mềm độc hại cho một cuộc tấn công mạng — có thể truyền bá các yêu cầu của họ để tránh bị phát hiện. Bộ phận Xử lý An toàn Riêng tư có thể phân tích nhiều cuộc trò chuyện đó để tìm dấu hiệu lạm dụng mà không cần có sự xem xét của con người đối với các cuộc trò chuyện của người dùng. Công ty cho biết, trong trường hợp hệ thống được kích hoạt, nó có thể gửi “tín hiệu được xác định trong phạm vi hẹp” tới OpenAI để cảnh báo về một loại hoạt động cụ thể. Dựa trên tín hiệu đó, OpenAI sau đó có thể quyết định xem liệu “việc thực thi có cần thiết hay không”. Người phát ngôn cho biết, nếu vậy, OpenAI sẽ liên hệ với khách hàng để biết thêm bối cảnh hoặc làm việc với họ về vấn đề này và khách hàng có thể chọn chia sẻ dữ liệu với OpenAI theo quyết định riêng của mình. Ngược lại, Anthropic lưu ý rằng việc đánh giá dữ liệu khách hàng của con người có thể xảy ra, nhưng chỉ “thông qua một đường dẫn truy cập được kiểm soát” có sự tham gia của “một nhóm nhỏ những người đánh giá được phê duyệt”. Công ty cho biết mỗi phiên đánh giá đó đều “được ghi lại trong nhật ký chống giả mạo mà người đánh giá không thể ngăn chặn hoặc sửa đổi”. Sự cạnh tranh giữa OpenAI và Anthropic hiện đang rất căng thẳng, cả hai công ty đều đang tìm kiếm mọi cơ hội để giành được lợi thế cho đối phương. Một báo cáo gần đây cho thấy quý 2 của OpenAI tăng trưởng chậm hơn Anthropic. Tỷ lệ doanh thu hàng năm của Anthropic hiện được báo cáo là 65 tỷ USD. Các nhà đầu tư nhân loại cho biết họ có thể IPO với giá 2 nghìn tỷ USD, trong khi OpenAI cũng đang tiến hành IPO. chủ đề AI, Nhân chủng học, Claude, truyện ngụ ngôn, OpenAI Khi bạn mua hàng thông qua các liên kết trong bài viết của chúng tôi, chúng tôi có thể kiếm được một khoản hoa hồng nhỏ. Điều này không ảnh hưởng đến tính độc lập biên tập của chúng tôi. Lucas Ropek Nhà văn cao cấp, TechCrunch Lucas là cây viết cấp cao tại TechCrunch, nơi ông viết về trí tuệ nhân tạo, công nghệ tiêu dùng và các công ty khởi nghiệp. Trước đây anh ấy đã phụ trách về AI và an ninh mạng tại Gizmodo. Bạn có thể liên hệ với Lucas bằng cách gửi email tới lucas.ropek@techcrunch.com. Xem tiểu sử 13 – 15 tháng 10 San Francisco Quy mô nhanh hơn. Phát triển danh mục đầu tư của bạn. Đạt được kiến ​​thức chuyên môn thực tế. Bất kể mục tiêu của bạn là gì, Disrupt đều có thể trao quyền cho bạn. Tiết kiệm tới $300 ngay hôm nay! ĐĂNG KÝ NGAY Phổ biến nhất Pin gia đình đột nhiên rẻ và ở khắp mọi nơi. Đây là lý do tại sao. Tim De Chant Cursor tận dụng sự thất vọng của GitHub, ra mắt nền tảng lưu trữ đối thủ Lucas Ropek Stripe được cho là sẽ mua lại công ty khởi nghiệp cổng AI OpenRouter với giá hơn 7 tỷ USD Anthony Hà Anthropic chia sẻ thêm thông tin chi tiết về cách hoạt động của hình mờ mới của Claude Anthony Hà 7 tiện ích bàn làm việc có thể giúp ngày làm việc của bạn tốt hơn Aisha Malik Apple đề xuất giảm 15% khi mua hàng ngoài App Store Sarah Perez Nếu Apple gửi cho bạn một thông báo đẩy cảnh báo bạn về một cuộc tấn công phần mềm gián điệp, hãy nghiêm túc thực hiện Zack Whittaker