Một trong những trường hợp kinh hoàng nhất về hình ảnh lạm dụng tình dục trẻ em được cho là do Grok tạo ra đã được chia sẻ trong một vụ kiện tập thể được đề xuất và đã được mở rộng vào thứ Ba. Hiện tại, các bé gái không chỉ cáo buộc X và xAI đã tạo ra các công cụ AI "nudify" độc hại mà còn che chắn cho những kẻ ấu dâm bằng cách cản trở các cuộc điều tra của cảnh sát về tài liệu lạm dụng tình dục trẻ em (CSAM) do Grok tạo ra.
Theo đơn kiện sửa đổi, vào tháng 3, cha dượng của một bé gái đã tự tử sau khi cảnh sát phát hiện ông này đã sử dụng Grok để tạo ra 7.000 hình ảnh khiêu dâm từ một bức ảnh chụp khi con gái riêng của ông 11 tuổi.
Grok cho phép
Một trong những trường hợp kinh hoàng nhất về hình ảnh lạm dụng tình dục trẻ em được cho là do Grok tạo ra đã được chia sẻ trong một vụ kiện tập thể được đề xuất và đã được mở rộng vào thứ Ba. Hiện tại, các bé gái không chỉ cáo buộc X và xAI đã tạo ra các công cụ AI "nudify" độc hại mà còn che chắn cho những kẻ ấu dâm bằng cách cản trở các cuộc điều tra của cảnh sát về tài liệu lạm dụng tình dục trẻ em (CSAM) do Grok tạo ra.
Theo đơn kiện sửa đổi, vào tháng 3, cha dượng của một bé gái đã tự tử sau khi cảnh sát phát hiện ông ta đã sử dụng Grok để tạo ra 7.000 hình ảnh khiêu dâm từ một bức ảnh chụp khi con gái riêng của ông ta 11 tuổi.
Đơn kiện cho biết Grok đã cho phép người đàn ông này tạo ra những hình ảnh cực đoan mô tả loạn luân và hiếp dâm mà không hề báo cáo bất kỳ hành vi có hại nào. Dường như, hệ thống an toàn trẻ em của xAI chỉ can thiệp sau khi người đàn ông nhập một lời nhắc cho "hiếp dâm tập thể". Yêu cầu đó đã gửi một CyberTip đến Trung tâm Quốc gia về Trẻ em Mất tích và Bị Bóc lột (NCMEC), cơ quan này đã cảnh báo cơ quan thực thi pháp luật về AI CSAM.
Nguồn tin: Ars Technica AI — Tác giả: Ashley Belanger. Bản dịch tiếng Việt do AI thực hiện, có thể có sai sót.
