OpenAI làm chậm quá trình đào tạo sau khi AI của nó thực hiện vụ hack

OpenAI làm chậm quá trình đào tạo sau khi AI của nó thực hiện vụ hack Nguồn hình ảnh, Getty Images ByLaura CressPhóng viên công nghệ Đã xuất bản 2 giờ trước OpenAI cho biết họ đã giảm tốc độ đào tạo một số mô hình AI tiên tiến nhất để cải thiện tính bảo mật. Trong một bài đăng trên blog bên ngoài, nhà sản xuất ChatGPT cho biết họ đang giới thiệu các biện pháp mới sau khi các đặc vụ AI của họ tự động vượt qua các biện pháp bảo vệ và tấn công công ty khởi nghiệp công nghệ Hugging Face. Nó cho biết việc đào tạo sẽ bị chậm lại trong hai tuần trong khi tiến hành nâng cấp. Công ty cho biết: “Khả năng của các mẫu xe tiên phong đang tăng tốc nhanh chóng”. "Khả năng hiểu biết...và bảo vệ chúng của chúng ta phải luôn dẫn đầu." Claude-maker Anthropic và chủ sở hữu Facebook Meta đã báo cáo các loại vụ hack tương tự do AI của họ gây ra trong những tuần sau thông báo ban đầu của OpenAI rằng một số mô hình của nó đã hack Hugging Face. Nhưng công ty cho biết họ vẫn chưa ngừng hoàn toàn việc phát triển AI. Thay vào đó, việc tạm dừng sẽ diễn ra trong "đào tạo học tập tăng cường trên các mẫu mới nhất của chúng tôi". Đây là phương pháp đào tạo trong đó các mô hình AI cải thiện thông qua phản hồi trực tiếp, giúp cải thiện khả năng thực hiện nhiệm vụ và phản hồi người dùng hiệu quả hơn. Công ty cũng sẽ mở rộng các hệ thống mà họ sử dụng để giám sát hành vi nguy hiểm và đưa ra các biện pháp kiểm tra an toàn bổ sung trước khi tiếp tục đào tạo quy mô lớn hơn. “Tiến trình của mô hình hiện cực kỳ nhanh chóng”, giám đốc điều hành OpenAI Sam Altman đăng trên X, bên ngoài về các biện pháp. “Chúng tôi luôn nói rằng chúng tôi sẽ hành động nếu cảm thấy khả năng của mô hình vượt xa tốc độ an toàn.” Việc tạm dừng đã nhận được sự lạc quan thận trọng của một số người trong lĩnh vực AI - mặc dù những người khác vẫn tỏ ra hoài nghi. Giáo sư Gina Neff, giám đốc điều hành của Trung tâm Công nghệ và Dân chủ Minderoo tại Đại học Cambridge, cho biết OpenAI đang đưa ra “trường hợp đảm bảo an toàn bằng thông cáo báo chí” và đặt câu hỏi liệu các biện pháp bảo vệ tự nguyện của công ty có đủ nếu không có sự giám sát lớn hơn của chính phủ hay không. Cô nói: “Đó là: Có thể tin cậy rằng OpenAI sẽ tự nguyện áp dụng các biện pháp bảo vệ thực sự có hiệu quả hoặc họ đang thúc đẩy các lựa chọn để tạo ra phần mềm khiến xã hội gặp rủi ro cao hơn”. Nhà phân tích AI Zvi Mowshowitz đăng bên ngoài: “Rất vui khi thấy điều này”, mặc dù ông nói thêm rằng “chi tiết” và “việc thực hiện theo” các biện pháp ban đầu được đề cập cũng rất quan trọng để có cái nhìn đầy đủ về các kế hoạch. Cuộc tấn công mạng 'chưa từng có' Vào ngày 21 tháng 7, OpenAI đã công bố một số tác nhân AI của họ - các hệ thống phần mềm có thể hoạt động một mình để hoàn thành các nhiệm vụ sau sự hướng dẫn của con người - đã dính vào cái mà họ gọi là một sự cố "chưa từng có". Họ cho biết các đặc vụ dường như đã vượt qua các biện pháp bảo vệ trong một thử nghiệm bảo mật mà họ đang chạy và giành được quyền truy cập trái phép vào Ôm Mặt. Ba công ty giấu tên khác sau đó cũng bị phát hiện đã bị tấn công cùng với công ty khởi nghiệp này. Jake Moore, cố vấn an ninh mạng toàn cầu tại ESET, cho biết vào thời điểm đó thông báo từ OpenAI cũng có thể có khía cạnh cạnh tranh. Ông cho rằng công ty công nghệ này có thể đang tìm cách làm nổi bật khả năng AI của chính mình khi đối thủ Anthropic ngày càng thu hút sự chú ý đối với mô hình Claude Mythos của mình. Ông nói: “Nó đặt ra câu hỏi rằng OpenAI có khả năng theo đuổi giấc mơ tiếp thị của Anthropic gần đây hay không”. Đăng ký nhận bản tin Giải mã công nghệ của chúng tôi để theo dõi những câu chuyện và xu hướng công nghệ hàng đầu thế giới. Bên ngoài Vương quốc Anh? Đăng ký tại đây. Chủ đề liên quan Trí tuệ nhân tạo Thông tin thêm về câu chuyện này Đầu tiên là OpenAI, bây giờ là Meta - tại sao các vụ hack AI liên tục xảy ra? Đã xuất bản 6 tháng 8 Công ty bị tấn công bởi các mô hình OpenAI lừa đảo cho biết đây là 'lời cảnh tỉnh' Đã xuất bản 23 tháng 7 Cảnh báo hoặc đóng thế công khai - chúng ta nên lo lắng đến mức nào về vụ hack OpenAI? Đã xuất bản 25 tháng 7