Ngụy biện trạng thái cuối: Bảo mật AI sẽ đi về đâu?

"> Ngụy biện trạng thái cuối: Bảo mật AI hướng tới đâu? Dan Lahav - SAN FRANCISCO, NGÀY 17 THÁNG 8 NĂM 2026 Tải xuống pdf - Chia sẻ trên X/LinkedIn - Liên hệ với chúng tôi Tại Irregular, chúng tôi làm việc ở lĩnh vực bảo mật AI hàng đầu. Công việc của chúng tôi đã thúc đẩy chúng tôi cộng tác với các phòng thí nghiệm hàng đầu, đánh giá AI về các rủi ro bảo mật và giúp giảm thiểu những rủi ro này. Trong những tuần gần đây, điều này cũng khiến chúng tôi trở thành trung tâm của một vụ việc thu hút sự chú ý đáng kể của công chúng. Hình 1 Hình 1 Tuy nhiên, bài luận này không nói về một sự việc hay phòng thí nghiệm cụ thể - đã có rất nhiều bài viết về những chủ đề này rồi. Đúng hơn, đó là về bức tranh chiến lược rộng lớn hơn. Cụ thể là các câu hỏi cấp bách về việc an ninh AI sẽ hướng tới đâu, tại sao lại có cơ sở lạc quan mạnh mẽ ở trạng thái cuối và tại sao quá trình chuyển đổi sang tương lai đó vẫn có thể nguy hiểm. Sau nhiều cuộc trò chuyện với các nhà hoạch định chính sách, nhà nghiên cứu và nhà công nghệ, chúng tôi ngày càng thấy rõ một điều: ngoài những người thực hành đang thực hiện thách thức một cách nghiêm túc, rất ít người hiểu được bối cảnh an ninh đang thay đổi như thế nào. Đây là một nỗ lực để mở cửa sổ đó. Giới thiệu Vào tháng 2 năm 2026, chúng tôi đã đặt ra cho các mô hình AI một thách thức bảo mật mà không mô hình nào có thể giải quyết được. Nó khó có chủ ý: Các mô hình phải thiết kế ngược phần mềm không quen thuộc, hiểu bộ xử lý tùy chỉnh, tìm ra một điều kiện chạy đua tinh vi và biến nó thành một cách khai thác hiệu quả. Đến tháng 4, mô hình hoạt động tốt nhất đôi khi có thể giải quyết được vấn đề đó với chi phí suy luận dự kiến ​​là khoảng 2.000 USD. Đến tháng 6, một số mẫu có thể làm được điều đó một cách đáng tin cậy với giá khoảng 20 USD. Trong bốn tháng, một nhiệm vụ đã chuyển từ chỗ không thể giải quyết được thành rẻ tiền và có thể lặp lại. Tiến trình đó phản ánh sự thay đổi đang diễn ra trong lĩnh vực an ninh mạng hiện nay. AI đang mở rộng khả năng tấn công nhanh hơn hầu hết chúng ta nhận ra. Một số người tin rằng những câu chuyện gần đây về những thay đổi nhanh chóng trong bảo mật AI không chỉ đơn thuần là hoạt động tiếp thị phức tạp. Chúng tôi đã theo dõi các mô hình biên giới để tìm ra rủi ro bảo mật trong nhiều năm. Quan điểm cá nhân của tôi là mặc dù một số tiêu đề đã bị thổi phồng, nhưng các khả năng cơ bản đang trở nên rất thực tế và chính tốc độ tiến bộ mới thực sự khiến bạn phải tạm dừng. Đồng thời, những khả năng này đang bắt đầu lan rộng ra ngoài biên giới khép kín. Trong một thử nghiệm gần đây mà chúng tôi đã thực hiện, lần đầu tiên một mô hình trọng lượng mở đã có thể hoàn thành một chiến dịch mạng nhiều giai đoạn, kéo dài từ đầu đến cuối - một ngưỡng mà các mô hình biên giới đã đạt được chỉ vài tháng trước đó. Nếu quỹ đạo hiện tại được giữ vững, các mẫu xe hạng nặng có thể chỉ còn vài tháng nữa là đạt được cấp độ khả năng tấn công của các mẫu xe tiên phong ngày nay (chẳng hạn như Mythos 5 / GPT-5.6 Sol). Nói rõ hơn, các mô hình trọng lượng mở có tầm quan trọng cơ bản to lớn, bao gồm cả phòng thủ. Nhưng chúng cũng tạo ra một vấn đề hành động tập thể: không phải mọi tổ chức phát hành các hệ thống ngày càng có năng lực cao sẽ có cùng động cơ hoặc khả năng giám sát an ninh (đặc biệt là trước áp lực địa chính trị). Khi các khả năng mạnh mẽ có thể được chạy riêng tư, nhiều điều khiển sẽ biến mất. Thế giới cần phải chuẩn bị cho điều đó. Tất cả những điều này đặt ra một câu hỏi rõ ràng: điều gì sẽ xảy ra nếu sự tăng tốc của các khả năng AI mà chúng ta đã thấy cho đến nay vẫn tiếp tục? — Có lẽ nghịch lý là có những lý do mạnh mẽ để lạc quan về tương lai an ninh lâu dài; Bản thân tôi cũng lạc quan. Một thế giới nơi AI liên tục kiểm tra từng dòng mã, chính thức xác minh những gì quan trọng nhất và vá các lỗ hổng nhanh hơn mức mà kẻ tấn công có thể biến chúng thành vũ khí là một khả năng thực sự. Nhưng trạng thái cân bằng dài hạn không giống như những gì chúng ta sẽ gặp trong vài năm tới. Ngay cả khi trạng thái cuối cùng thiên về phòng thủ, con đường dẫn đến trạng thái cuối cùng đó rất có thể sẽ trải qua một giai đoạn chuyển tiếp thiên về tấn công. Tuy nhiên, rất dễ dàng tập trung vào trạng thái cân bằng cuối cùng mà không đề cập đến giai đoạn chuyển tiếp sẽ như thế nào. Chúng ta có thể gọi đây là ngụy biện trạng thái cuối: thu gọn các đặc tính của quá trình chuyển đổi thành các thuộc tính của trạng thái cuối như thể chúng nhất thiết phải giống nhau. Đối với bảo mật AI, sự khác biệt này rất quan trọng. Rủi ro trong ngắn hạn không chỉ đơn giản là khả năng tấn công được cải thiện. Các chỉ số cho thấy AI hiện đang mở rộng khả năng tấn công nhanh hơn khả năng phòng thủ. Nếu điều đó vẫn tiếp diễn, để ngăn chặn tác hại, cần phải có những biện pháp can thiệp giúp quốc phòng theo kịp tốc độ một cách không cân xứng. Đây là một chiến lược mà chúng ta có thể gọi là tăng tốc mạng phòng thủ khác biệt, hay DDCA. Để đạt được điều đó, bài luận phải thông qua năm câu hỏi: AI đã có thể làm gì với các hệ thống thực - và điều gì vẫn đang ngăn cản nó làm được nhiều hơn thế? Điều gì sẽ xảy ra khi khả năng tấn công trở nên tốt hơn, rẻ hơn, tự chủ hơn và phổ biến rộng rãi hơn? Điều gì thay đổi khi AI không còn chỉ là công cụ mà còn là mục tiêu và tác nhân? Trong vài năm tới, AI sẽ mang lại lợi thế cho kẻ tấn công hay người phòng thủ hơn? Làm thế nào để chúng ta định hình cuộc đua để những người bảo vệ không bị tụt lại phía sau? Tương lai lâu dài có thể an toàn hơn nhiều so với thế giới ngày nay. Câu hỏi đặt ra là điều gì xảy ra trên đường tới đó. Mục lục Chương 1: Thế Giới Hiện Tại. AI đã có thể tìm ra các lỗ hổng nghiêm trọng mà các chuyên gia con người đã lẩn tránh trong nhiều năm, viết ra các cách khai thác hiệu quả và giúp thực hiện các cuộc xâm nhập thực sự. Tuy nhiên, thế giới vẫn hoạt động chủ yếu: máy bay bay, ngân hàng thông thoáng, lưới điện ồn ào. Một số điểm nghẽn vẫn ngăn cản AI đóng vòng lặp một cách đáng tin cậy trước các mục tiêu quan trọng. Để hiểu điều gì xảy ra tiếp theo, trước tiên chúng ta cần hiểu điều gì đang xảy ra ngay bây giờ. Chương 2a: Lộ trình: Tiến triển nhanh chóng. Mọi thứ đang diễn ra ở đâu quan trọng hơn vị trí hiện tại của chúng. Đầu năm 2024, những người mẫu hàng đầu phải chật vật tìm ra lỗi cấp cơ sở. Đến năm 2026, họ bắt đầu giải quyết những thách thức bảo mật khiến ngay cả các chuyên gia bảo mật cũng phải bối rối. Điều quan trọng là những tiến bộ trong khả năng tấn công mạng nằm ở hạ nguồn của việc mở rộng quy mô AI nói chung. Nếu mối quan hệ đó được giữ vững, chúng ta có thể vẫn ở gần điểm bắt đầu của đường cong: miễn là AI tiếp tục cải thiện thì khả năng tấn công cũng sẽ như vậy. De của chúng tôi