Các mô hình AI vượt qua giới hạn đang khiến ngành công nghiệp lo ngại.

Tin tức Thế giới Ngày 6 tháng 8 năm 2026, 8:09 sáng Helen Toner cho biết các mô hình AI vượt qua giới hạn đang khiến ngành công nghiệp lo ngại Sarah Ferguson và Marina Freri của ABC News Chú thích: Một mô hình AI đã giả mạo danh tính và cố gắng lừa một người trong một thử nghiệm, theo một báo cáo của Anh. Nguồn ảnh: ABC News / Jerry Rickard Cựu thành viên hội đồng quản trị OpenAI Helen Toner cảnh báo rằng các hệ thống AI đang phát triển quá nhanh khiến con người không thể theo kịp. Bà nói với 7.30: "Khả năng của chúng ta trong việc hạn chế và giữ an toàn cho các hệ thống này không nhất thiết phải theo kịp khả năng của chúng ta trong việc làm cho chúng thông minh hơn". Bà Toner, người gốc Úc, hiện là giám đốc điều hành tại Trung tâm An ninh và Công nghệ Mới nổi tại Đại học Georgetown, cho biết các nhà nghiên cứu hàng đầu về AI, như Sam Altman, đang cố gắng xây dựng bộ não máy móc có thể vượt trội hơn con người trong mọi lĩnh vực trí tuệ – và chúng ta có thể không thích những quyết định mà chúng đưa ra. Bà nói: "Nó có thể học những điều bạn không định cho nó học". "Nó có thể học được rằng một cách tốt để theo đuổi mục tiêu là loại bỏ bất kỳ giới hạn nào bạn đặt ra cho nó." Những bình luận của bà Toner được đưa ra sau khi Viện An ninh AI (AISI) của chính phủ Anh công bố một báo cáo cho thấy các mô hình AI từ OpenAI và Anthropic, trong điều kiện thử nghiệm, đã tham gia vào "hoạt động gây hại nhắm vào người thật và tổ chức". Helen Toner cho biết AI đang phát triển quá nhanh để kiểm soát. Four Corners / Mark Hiney Một tác nhân AI đã sử dụng danh tính giả với lịch sử giả để cố gắng lừa một người cho phép mã độc xâm nhập vào một dự án mã nguồn mở. Vai trò của tổ chức uy tín cao của Vương quốc Anh là đánh giá các mô hình AI tiên tiến trước khi chúng đến tay công chúng. Bà Toner nói: "Đây là lần đầu tiên AISI chứng kiến sự lừa dối nghiêm trọng như vậy nhắm vào một người thật, không được nhắc nhở, trong thế giới thực". "Điều đáng chú ý ở đây là nó thực sự tự nghĩ ra ý tưởng này, rằng việc cần làm là đi ra ngoài và đưa một số mã độc vào một phần mềm công cộng và cố gắng lừa dối những người đứng sau gói phần mềm đó như một phần của việc đó." Bà cho biết tốc độ phát triển của AI và việc nó phá vỡ các giới hạn là nguyên nhân gây lo ngại, bằng chứng là hơn 1.000 người làm việc tại các công ty AI hàng đầu đã ký một tuyên bố về vấn đề này vào tuần trước. Bà Toner nói: "Đó là về việc điều chỉnh tốc độ tiến bộ". "Điều họ muốn nói là, về cơ bản, họ – những nhân viên của các công ty AI tiên tiến này – không cảm thấy mình có một bàn đạp phanh. "Họ bắt đầu lo ngại rằng mọi thứ đang diễn ra quá nhanh trong lĩnh vực của họ đến nỗi họ không nhất thiết phải kiểm soát được chúng. "Và vì vậy, tuyên bố được đưa ra vào tuần trước nói rằng, 'Hãy nhìn xem, chúng ta cần chính phủ, chúng ta cần xã hội dân sự, chúng ta cần chính ngành công nghiệp bắt đầu tìm cách cho chúng ta lựa chọn làm chậm lại trong tương lai, bởi vì hiện tại, ngay cả khi chúng ta muốn, chúng ta, ngành công nghiệp, những người ký tuyên bố, không biết làm thế nào.'" Giải pháp của Musk không tốt? Elon Musk, người sáng lập và giám đốc điều hành của xAI, một trong năm công ty AI lớn của Mỹ, đã đề xuất một giải pháp cho mối đe dọa ngày càng tăng của AI bất hảo. Trong một cuộc phỏng vấn với The Economist, Musk cho biết các công ty làm việc về AI tiên tiến nên thường xuyên gọi điện cho nhau để thảo luận về các vấn đề an toàn và bảo mật và thử nghiệm sản phẩm của nhau trước khi phát hành. "Một thứ gì đó thông minh hơn nhiều so với bất cứ thứ gì đã tồn tại, có cơ hội để các công ty AI cạnh tranh khác nhau thử nghiệm mô hình đó về bất kỳ tác động có hại nào và có thể đề xuất tạm dừng để giải quyết một số vấn đề bảo mật này", ông nói. Bà Toner cho rằng đó là một cách tiếp cận sai lầm. "Tôi nghĩ một phiên bản của điều đó chỉ diễn ra giữa các công ty mà không có sự giám sát hoặc minh bạch từ bên ngoài có lẽ không phải là cách nên làm", bà nói. Bà Toner cho biết chính trong các công ty như OpenAI, Google, Anthropic, Meta và xAI, "AI tiên tiến nhất" đang được sử dụng "với ít biện pháp bảo vệ nhất". Tuần này, đại diện từ OpenAI, Anthropic, Google và Meta đã gặp nhau tại Nhà Trắng để thảo luận về một khuôn khổ nhằm đảm bảo việc thử nghiệm các mô hình AI tiên tiến mạnh mẽ trước khi phát hành ra công chúng. Không có chi tiết nào về các cuộc thảo luận được công bố. Khi được hỏi liệu chúng ta có nên tin tưởng các công ty AI hành động vì lợi ích công cộng hay không, bà Toner nói: "Chúng ta không nên phải tin tưởng họ. Và thực ra, tôi nghĩ chúng ta đang bắt đầu thấy một số bước đi đúng hướng từ chính phủ Mỹ ở đây". Bà cho biết khuôn khổ quy định mới được thúc đẩy bởi chính quyền Trump "lo ngại liệu AI có thể giúp tin tặc hay không, bởi vì chúng ta thực sự đã thấy khả năng của AI trong việc thực hiện các cuộc tấn công mạng tăng nhanh chóng trong những tháng và năm qua". Bà Toner cho biết tốc độ phát triển sẽ sớm đòi hỏi quy định phải vượt ra ngoài khả năng mạng để bao gồm các rủi ro liên quan đến quyền tự chủ và phát triển vũ khí sinh học.