OpenAI thiết lập các biện pháp bảo vệ mới sau khi vi phạm Ôm mặt

Hôm thứ Ba, OpenAI đã công bố một loạt chính sách bảo mật mới tập trung vào việc ngăn chặn các sự cố bảo mật trong khi các mô hình đang được thử nghiệm. Các biện pháp bảo vệ mới bao gồm giám sát chi tiết hơn các mô hình trong quá trình phát triển, cũng như nhấn mạnh hơn vào sự liên kết và bảo mật trong quá trình sau đào tạo. Công ty cho biết trong một bài đăng trên blog: “Khi các mô hình trở nên có khả năng hơn, những rủi ro liên quan đến việc phát triển và thử nghiệm chúng trong nội bộ cũng tăng lên”. “Các tiêu chuẩn giám sát, liên kết và bảo mật của chúng tôi phải vượt qua những rủi ro đó”. Các biện pháp mới này là một trong những thay đổi công khai đầu tiên trong các biện pháp an toàn của OpenAI kể từ ngay sau sự cố Ôm Mặt được tiết lộ vào ngày 21 tháng 7. Đại diện OpenAI cho biết các biện pháp này không phải là phản ứng trực tiếp đối với sự cố Ôm mặt mà một phần cũng bị kích động bởi khả năng an ninh mạng của mô hình Astra sắp ra mắt, cũng như tốc độ tiến bộ chung trong phát triển AI. Trong cùng một bài đăng, OpenAI tiết lộ rằng họ đã tạm dừng học tăng cường (RL) trong hai tuần sau sự cố Ôm mặt nhưng kể từ đó đã khởi động lại nhiều mô hình ít rủi ro hơn. Bài đăng cho biết: “Hoạt động RL biên giới theo kế hoạch lớn nhất của chúng tôi vẫn bị tạm dừng trong khi chúng tôi tiến hành đào tạo và đánh giá quy mô nhỏ hơn để đánh giá hành vi mô hình, xác thực các biện pháp bảo vệ của chúng tôi và thiết lập thêm bằng chứng về sự liên kết trước khi tiếp tục”. Phát biểu với các phóng viên, Phó Giám đốc nghiên cứu của OpenAI, Amelia Glaese, nhấn mạnh rằng mức độ nghiêm ngặt của các biện pháp kiểm soát sẽ tăng lên khi các mô hình trở nên có năng lực hơn, trong đó các mô hình lớn nhất phải đối mặt với sự giám sát chặt chẽ nhất. Glaese nói với các phóng viên: “Chúng tôi đã đưa ra các yêu cầu và kỳ vọng về sự phát triển an toàn. “Những yêu cầu và kỳ vọng đó thay đổi tùy theo mức độ rủi ro mà chúng tôi thấy.” OpenAI đã bị chỉ trích vì thực hành an ninh mạng kém sau vụ việc khiến các mô hình thoát khỏi môi trường đào tạo của họ bằng cách xâm phạm một công cụ có quyền truy cập Internet trên mạng. Các biện pháp bảo vệ mới bao gồm các biện pháp cách ly mạng mạnh mẽ hơn, mặc dù chi tiết cụ thể vẫn còn mơ hồ. Theo hệ thống mới, bài đăng cho biết, “bản thân một sự xâm phạm duy nhất của khối lượng công việc hoặc dịch vụ hỗ trợ không cho phép truy cập trái phép vào Internet hoặc các mạng nội bộ khác”. Biện pháp bảo vệ mạnh nhất là hệ thống giám sát, hệ thống này sẽ kiểm tra các hành động của công cụ, dấu vết lý luận có sẵn và nhật ký hoạt động để phát hiện nhiều hành vi trái phép. OpenAI cho biết mục tiêu của họ là đưa ra cảnh báo trong vòng 30 phút kể từ khi xảy ra hoạt động liên quan. OpenAI ước tính rằng gánh nặng tính toán của việc giám sát đó sẽ chiếm khoảng 20% ​​của bất kỳ quy trình nào đang được giám sát. Công ty hứa sẽ cung cấp thêm thông tin chi tiết về hệ thống trong một bài đăng blog sắp tới. Phân tích khám nghiệm tử thi chính thức của công ty về sự kiện này vẫn đang chờ xử lý. chủ đề AI, OpenAI, Bảo mật Khi bạn mua hàng thông qua các liên kết trong bài viết của chúng tôi, chúng tôi có thể kiếm được một khoản hoa hồng nhỏ. Điều này không ảnh hưởng đến tính độc lập biên tập của chúng tôi. Russell Brandom Trình chỉnh sửa AI Russell Brandom đã theo dõi ngành công nghệ từ năm 2012, tập trung vào chính sách nền tảng và các công nghệ mới nổi. Trước đây ông từng làm việc tại The Verge và Rest of World, đồng thời viết bài cho Wired, The Awl và Technology Review của MIT. Bạn có thể liên hệ với anh ấy tại russell.brandom@techcrunch.com hoặc trên Signal theo số 412-401-5489. Xem tiểu sử 13 – 15 tháng 10 San Francisco Quy mô nhanh hơn. Phát triển danh mục đầu tư của bạn. Đạt được kiến ​​thức chuyên môn thực tế. Bất kể mục tiêu của bạn là gì, Disrupt đều có thể trao quyền cho bạn. Tiết kiệm tới $300 ngay hôm nay! ĐĂNG KÝ NGAY Phổ biến nhất Stripe được cho là sẽ mua lại công ty khởi nghiệp cổng AI OpenRouter với giá hơn 7 tỷ USD Anthony Hà Anthropic chia sẻ thêm thông tin chi tiết về cách hoạt động của hình mờ mới của Claude Anthony Hà Apple đề xuất giảm 15% khi mua hàng ngoài App Store Sarah Perez Nếu Apple gửi cho bạn một thông báo đẩy cảnh báo bạn về một cuộc tấn công phần mềm gián điệp, hãy nghiêm túc thực hiện Zack Whittaker Các đặc vụ AI thuộc nhóm nhân loại được thực hiện cùng một nhiệm vụ. Họ bắt đầu một cuộc chiến tranh sân cỏ. Rebecca Bellan Instagram giới thiệu một wordmark được thiết kế lại Sarah Perez Một số người dùng Claude tức giận vì hình mờ mới của Anthropic sẽ khiến họ sử dụng nó trong công việc, lớp học Lucas Ropek