ZeroDrift đã huy động được 10 triệu USD để bảo vệ các mô hình AI khỏi chính chúng.

Khi các doanh nghiệp khắc phục sự cố hệ thống AI của mình, quản trị đã nổi lên như một thách thức chính. Một số doanh nghiệp đang áp dụng phương pháp tiếp cận kép: một mô hình để xử lý các truy vấn đến, trong khi mô hình thứ hai ngăn mô hình thứ nhất gặp sự cố. Đây là tiền đề của ZeroDrift, một dịch vụ tuân thủ AI mới đã công bố vòng hạt giống trị giá 10 triệu USD vào thứ Ba. (Các nhà đầu tư bao gồm a16z Speedrun, Reign Ventures, PitchDrive Ventures và U&I Ventures, cùng nhiều nhà đầu tư khác.) Công ty này chuyên xử lý phần thứ hai của hệ thống, nằm giữa các mô hình AI và người dùng cuối để gắn cờ và thay thế bất kỳ thông báo nào có thể gây ra vấn đề tuân thủ. Có vẻ lạ khi xây dựng một hệ thống AI để sửa lỗi của các hệ thống AI khác – nhưng hệ thống sửa lỗi của ZeroDrift có một số lợi thế về kiến trúc so với các mô hình mà nó sẽ sửa. Hệ thống này được kích hoạt bởi các chương trình thông thường áp dụng một cách xác định các tiêu chuẩn tuân thủ đã biết như SOC 2 hoặc GDPR. LLM (mô hình ngôn ngữ lớn) chỉ hoạt động khi một thông báo đã được gắn cờ, viết lại một phiên bản tuân thủ của cùng một thông báo. Ông Aroomoogan cho biết: “Chúng tôi có thể xác định một cách rõ ràng những lĩnh vực nào được quy định, vi phạm nào đang xảy ra, và sau đó chúng tôi có các LLM có thể thực hiện việc viết lại”. Điều quan trọng là toàn bộ hệ thống có thể chạy với độ trễ thấp hơn và độ tin cậy cao hơn so với một LLM thông thường. Đây là lợi thế chính của công ty so với các phòng thí nghiệm lớn như OpenAI và Anthropic, vốn thường đã có mặt trong hệ thống cơ bản. Trường hợp sử dụng rõ ràng nhất là cho các chatbot AI, vốn đã được triển khai trước người tiêu dùng, nơi có thể có những hậu quả nghiêm trọng đối với các câu trả lời không phù hợp. Tuy nhiên, ông Aroomoogan nhận thấy thị trường tiềm năng lớn hơn nhiều, có khả năng bao gồm các thông báo do AI tạo ra mà con người không bao giờ nhìn thấy, chỉ được tạo ra trong các hệ thống tự động. Cho đến nay, đây là một thị trường tương đối nhỏ – nhưng nó sẽ phát triển khi AI phổ biến hơn. Nếu việc huy động vốn là một dấu hiệu, thì có rất nhiều nhu cầu bị dồn nén đối với sản phẩm đó. Giám đốc điều hành Kumesh Aroomoogan cho biết: “Đây có lẽ là đợt huy động vốn nhanh nhất mà tôi từng thực hiện trong đời”, đồng thời ghi nhận sự giúp đỡ của Andressen Horowitz trong việc cấu trúc vòng hạt giống. “Chúng tôi đã hoàn tất trong vòng ba tuần và chúng tôi sẽ được đăng ký quá mức gấp 3 lần số tiền.” 'Thật nực cười': Hệ thống tính phí dựa trên token mới của GitHub Copilot gây lo ngại trong giới lập trình viên Lucas Ropek Tôi đã thử nghiệm trợ lý AI 24/7 Gemini Spark của Google và nó thực sự khá hữu ích Sarah Perez Tên lửa New Glenn của Blue Origin phát nổ trong quá trình thử nghiệm ở Florida Sean O'Kane Anthropic phát hành Opus 4.8 với công cụ 'quy trình làm việc động' mới Russell Brandom Meta ra mắt gói đăng ký Instagram, Facebook và WhatsApp, với nhiều dịch vụ khác sắp ra mắt, bao gồm cả các kế hoạch về AI Sarah Perez Các CEO công nghệ dường như đang mắc chứng loạn thần AI Julie Bort Số lượt cài đặt DuckDuckGo tăng 30% khi người dùng từ chối bị 'ép buộc' sử dụng AI Search của Google Rebecca Bellan