Năm 2023, các nhà khoa học tại Đại học Stanford đã công bố một nghiên cứu cho thấy các mô hình ngôn ngữ lớn (LLM) như GPT-4 có thể được sử dụng để tự động hóa các cuộc tấn công mạng. Nghiên cứu này đã chứng minh rằng LLM có thể tạo ra các email lừa đảo (phishing email) thuyết phục, vượt qua các biện pháp bảo mật truyền thống.
Trong nghiên cứu, các nhà khoa học đã sử dụng GPT-4 để tạo ra các email lừa đảo nhắm mục tiêu vào nhân viên của một công ty giả định. Các email này được thiết kế để trông giống như các thông báo nội bộ hợp pháp, yêu cầu người nhận nhấp vào một liên kết độc hại hoặc cung cấp thông tin đăng nhập của họ. Kết quả cho thấy GPT-4 có thể tạo ra các email lừa đảo có tỷ lệ nhấp chuột cao hơn đáng kể so với các email lừa đảo được tạo thủ công.
Nghiên cứu này đã làm dấy lên mối lo ngại về tiềm năng lạm dụng LLM trong các cuộc tấn công mạng. Các nhà nghiên cứu cảnh báo rằng LLM có thể được sử dụng để tạo ra các cuộc tấn công lừa đảo tinh vi hơn, khó phát hiện hơn và có thể gây ra thiệt hại đáng kể cho các tổ chức và cá nhân.
Để đối phó với mối đe dọa này, các nhà nghiên cứu khuyến nghị các tổ chức nên tăng cường đào tạo nhân viên về an ninh mạng, triển khai các giải pháp bảo mật email tiên tiến và phát triển các công cụ phát hiện lừa đảo dựa trên AI. Ngoài ra, các nhà nghiên cứu cũng kêu gọi các nhà phát triển LLM nên tích hợp các biện pháp bảo mật vào các mô hình của họ để ngăn chặn việc lạm dụng.
AICloseAI
Các bài viết từ chủ đề này sẽ được thêm vào bản tin email hàng ngày và nguồn cấp dữ liệu trang chủ của bạn.
Theo dõiTheo dõiXem tất cả AI
Tin tứcCloseTin tức
Các bài viết từ chủ đề này sẽ được thêm vào bản tin email hàng ngày và nguồn cấp dữ liệu trang chủ của bạn.
Theo dõiTheo dõiXem tất cả Tin tức
Công nghệCloseCông nghệ
Các bài viết từ chủ đề này sẽ được thêm vào bản tin email hàng ngày và nguồn cấp dữ liệu trang chủ của bạn.
Theo dõiTheo dõiXem tất cả Công nghệ
OpenAI tạm dừng phát triển một mô hình mới vì cho rằng nó quá mạnh mẽ
OpenAI cho biết mô hình Astra đang được phát triển có thể có các khả năng an ninh mạng “quan trọng”.
OpenAI cho biết mô hình Astra đang được phát triển có thể có các khả năng an ninh mạng “quan trọng”.
bởi Jay PetersClose
Jay Peters
Phóng viên cấp cao
Các bài viết từ tác giả này sẽ được thêm vào bản tin email hàng ngày và nguồn cấp dữ liệu trang chủ của bạn.
Theo dõiTheo dõiXem tất cả bởi Jay Peters
Ngày 7/8/2026, 18:40 UTC
Liên kết
Chia sẻ
Tặng
Ảnh: The Verge
Jay PetersClose
Jay Peters
Các bài viết từ tác giả này sẽ được thêm vào bản tin email hàng ngày và nguồn cấp dữ liệu trang chủ của bạn.
Theo dõiTheo dõiXem tất cả bởi Jay Peters
là phóng viên cấp cao chuyên về công nghệ, trò chơi và nhiều lĩnh vực khác. Ông gia nhập The Verge vào năm 2019 sau gần hai năm làm việc tại Techmeme.
OpenAI cho biết họ đang tạm dừng “các hoạt động nội bộ” liên quan đến mô hình AI đang được phát triển, Astra, vì nó chưa đáp ứng các tiêu chuẩn bảo mật mới mà công ty đang áp dụng. Thông báo này được đưa ra sau khi công ty gần đây tiết lộ rằng các mô hình của OpenAI đã vô tình tấn công Hugging Face. Anthropic và Meta cũng đã thừa nhận rằng họ có các mô hình AI đã hoạt động sai lệch và xâm phạm các tổ chức khác.
Theo công ty, các đánh giá nội bộ gần đây về một mô hình OpenAI có tên Astra cho thấy nó mang lại “những tiến bộ đáng kể trong mã hóa tác nhân và an ninh mạng”. “Những kết quả này, cùng với các đánh giá của chuyên gia, đã khiến chúng tôi kết luận vào đêm qua rằng chúng tôi không thể loại trừ các khả năng mạng quan trọng theo Khung chuẩn bị của chúng tôi.”
Dưới đây là cách OpenAI định nghĩa ngưỡng an ninh mạng “quan trọng”:
Theo Khung chuẩn bị của chúng tôi, một mô hình đạt ngưỡng an ninh mạng Quan trọng nếu nó có thể xác định và phát triển các lỗ hổng zero-day chức năng ở tất cả các mức độ nghiêm trọng trong nhiều hệ thống quan trọng thực tế được bảo vệ mà không cần sự can thiệp của con người, hoặc có thể nghĩ ra và thực hiện các chiến lược mới từ đầu đến cuối cho các cuộc tấn công mạng chống lại các mục tiêu được bảo vệ chỉ với một mục tiêu mong muốn cấp cao.
OpenAI cho biết Astra “không liên quan” đến vụ tấn công Hugging Face.
OpenAI sẽ thực hiện “các biện pháp kiểm soát bảo mật nghiêm ngặt hơn đối với các mô hình có khả năng cao hơn và các hoạt động liên quan”, theo bài đăng. Đối với Astra, công ty cũng đã triển khai “giám sát toàn cầu” đối với “các hành động rủi ro và sự sai lệch trên tất cả các ứng dụng tác nhân”.
Theo dõi các chủ đề và tác giả từ câu chuyện này để xem thêm những nội dung tương tự trong nguồn cấp dữ liệu trang chủ được cá nhân hóa của bạn và để nhận thông tin cập nhật qua email.Jay PetersClose
Jay Peters
Phóng viên cấp cao
Các bài viết từ tác giả này sẽ được thêm vào bản tin email hàng ngày và nguồn cấp dữ liệu trang chủ của bạn.
Theo dõiTheo dõiXem tất cả bởi Jay Peters
AICloseAI
Các bài viết từ chủ đề này sẽ được thêm vào bản tin email hàng ngày và nguồn cấp dữ liệu trang chủ của bạn.
Theo dõiTheo dõiXem tất cả AI
Tin tứcCloseTin tức
Các bài viết từ chủ đề này sẽ được thêm vào bản tin email hàng ngày và nguồn cấp dữ liệu trang chủ của bạn.
Theo dõiTheo dõiXem tất cả Tin tức
OpenAICloseOpenAI
Các bài viết từ chủ đề này sẽ được thêm vào bản tin email hàng ngày và nguồn cấp dữ liệu trang chủ của bạn.
Theo dõiTheo dõiXem tất cả OpenAI
Bảo mậtCloseBảo mật
Các bài viết từ chủ đề này sẽ được thêm vào bản tin email hàng ngày và nguồn cấp dữ liệu trang chủ của bạn.
Theo dõiTheo dõiXem tất cả Bảo mật
TechCloseTech
Các bài đăng từ chủ đề này sẽ được thêm vào bản tin email hàng ngày và trang chủ của bạn.
Theo dõiTheo dõiXem tất cả công nghệ
Phổ biến nhất
Phổ biến nhất
Mẫu xe điện siêu rẻ đầu tiên của Ford có tên Fathom, một chiếc xe tải đầy đủ tính năng với giá 28.350 USD
Các bot AI đã tạo ra một tôn giáo — con người ngay lập tức đi theo
Thiết bị OpenAI đầu tiên của Jony Ive được cho là một loa thông minh cỡ quả bóng khúc côn cầu
Những vấn đề chính trị phức tạp đằng sau cuộc cải tổ AI lớn của Google
Cố gắng giải thích về dystopia tình dục do công nghệ của One Night Only
The Verge Daily
Bản tin tổng hợp miễn phí hàng ngày về những tin tức quan trọng nhất.
Email (bắt buộc)
Đăng ký
Bằng cách gửi email của bạn, bạn đồng ý với Điều khoản và Thông báo quyền riêng tư của chúng tôi. Trang web này được bảo vệ bởi reCAPTCHA và áp dụng Chính sách quyền riêng tư và Điều khoản dịch vụ của Google.
Nội dung quảng cáo từ
Đây là tiêu đề cho quảng cáo gốc
Nguồn tin: The Verge AI — Tác giả: Jay Peters. Bản dịch tiếng Việt do AI thực hiện, có thể có sai sót.
