Những kẻ lừa đảo AI đang tạo ra người da đen giả để bán các sản phẩm của Shein.

AICloseAI Các bài đăng từ chủ đề này sẽ được thêm vào bản tóm tắt email hàng ngày và nguồn cấp dữ liệu trang chủ của bạn. Theo dõiTheo dõiXem tất cả AI TechCloseTech Các bài đăng từ chủ đề này sẽ được thêm vào bản tóm tắt email hàng ngày và nguồn cấp dữ liệu trang chủ của bạn. Theo dõiTheo dõiXem tất cả Tech CreatorsCloseCreators Các bài đăng từ chủ đề này sẽ được thêm vào bản tóm tắt email hàng ngày và nguồn cấp dữ liệu trang chủ của bạn. Theo dõiTheo dõiXem tất cả Creators Những kẻ lừa đảo AI đang tạo ra người da đen giả để bán hàng Shein kém chất lượng Liệu chủng tộc, cảm giác tội lỗi và sự đồng cảm có thể khiến bạn trả 40 USD cho chiếc khóa thắt lưng 9 USD này trên TikTok? Nếu bạn mua hàng từ một liên kết của Verge, Vox Media có thể kiếm được hoa hồng. Xem tuyên bố đạo đức của chúng tôi. bởi Nicole FroioCloseNicole Froio Các bài đăng từ tác giả này sẽ được thêm vào bản tóm tắt email hàng ngày và nguồn cấp dữ liệu trang chủ của bạn. Theo dõiTheo dõiXem tất cả bởi Nicole Froio Ngày 30/5/2026, 13:00 UTC Liên kết Chia sẻ Tặng Nếu bạn mua hàng từ một liên kết của Verge, Vox Media có thể kiếm được hoa hồng. Xem tuyên bố đạo đức của chúng tôi. Những người bán hàng trên TikTok dường như được tạo ra bằng AI, đang khóc. | The Verge Aliyah, một phụ nữ da đen có làn da sáng, mặc trang phục cao bồi miền Tây, đang gặp khó khăn trong việc bán những chiếc khóa kim loại do cô tự làm trên TikTok. Trong một video đăng trên nền tảng mạng xã hội này vào tháng 3, cô đã khóc trước camera và cầu xin lượt xem: “Ngay cả khi là một phụ nữ da đen, tôi vẫn tin rằng phụ nữ da trắng sẽ ở lại 13 giây [trên video này] để cứu công việc kinh doanh khóa thắt lưng của tôi”, dòng chữ trên màn hình hiển thị. Cô lau một giọt nước mắt trên má. Tuy nhiên, Aliyah không có thật, và những sản phẩm được cho là thủ công của cô cũng vậy – cô là một trong nhiều người có ảnh hưởng được tạo ra bằng AI để bán các sản phẩm sản xuất hàng loạt thông qua hình thức dropshipping trên TikTok, Facebook và Instagram. Những chiếc khóa thắt lưng giống hệt nhau – thiết kế hoa hướng dương, dao găm có thể tháo rời và tất cả – được bán trên trang web thời trang nhanh Shein, với giá chỉ bằng một phần tư. Aliyahsbuckles trên TikTok (trái) và Amaya’s buckles trên TikTok (phải) Có một số manh mối để xác định rằng video này được tạo ra bằng AI. Giọng nói của Aliyah mang tính robot và vô cảm, không khớp với khuôn mặt đang khóc trên màn hình. Trong một đoạn clip, cô đang khâu một chiếc thắt lưng da ở những vị trí thường không có đường may. Khi cô lau nước mắt, dòng chất lỏng bên dưới chỗ cô lau cũng biến mất. Và cuối cùng, có hàng tá video tương tự một cách kỳ lạ, nhưng với các nhân vật được tạo ra bằng AI khác nhau, đang lan truyền trên TikTok. Một tài khoản có tên “Aliyahsbuckles” có cùng phông nền, mặt bàn và cuộn dây. The Verge đã tìm thấy hàng chục tài khoản trên TikTok với những câu chuyện tương tự và nhiều sản phẩm dropshipping khác nhau, bao gồm khóa thắt lưng, cốc hình ủng cao bồi, túi móc và áo khoác len. Một số video này được gắn nhãn là được tạo ra bằng AI. Các tài khoản tương tự cũng hoạt động trên Instagram và Facebook. Gần như tất cả các khía cạnh của các tài khoản này dường như được tạo ra bằng AI – từ “người” trong video đến các phản hồi tự động cho bình luận, trong một số trường hợp cố gắng bắt chước tiếng lóng của người Mỹ gốc Phi – và các chuyên gia cảnh báo rằng những trò lừa đảo như thế này đang gia tăng mỗi ngày. Ông Jeremy Carrasco, nhà nghiên cứu về truyền thông do AI tạo ra và là giám đốc của Riddance.ai, một tổ chức chuyên phát hiện video AI, nhận định với The Verge về các video do AI tạo ra liên quan đến các cửa hàng thương mại điện tử: “Quy mô của vấn đề này rất lớn. Hầu hết chúng không được phối hợp. Một số thì có. Rất nhiều lần, họ sẽ sử dụng một diễn viên [do AI tạo ra] duy nhất, hoặc một vài diễn viên sẽ điều hành tất cả các loại cửa hàng”. Ông giải thích rằng những hình đại diện do AI tạo ra này giả vờ sản xuất các mặt hàng, tham gia hội chợ để trưng bày sản phẩm của họ và “phản hồi” các bình luận thông qua tự động hóa. “Những gì chúng ta đang thấy hiện nay là các vụ lừa đảo bán lẻ, nơi họ sẽ liên kết đến các trang web Shopify”. Ông Carrasco ước tính nhóm nghiên cứu của ông đang tìm thấy tới 100 tài khoản cố gắng bán sản phẩm thông qua các hình đại diện do AI tạo ra mỗi ngày. Hầu hết các tài khoản được The Verge phát hiện đều được tạo trong hai tháng gần đây và chứa các video về các doanh nghiệp nhỏ thuộc sở hữu của các cá nhân bị thiệt thòi đang gặp khó khăn trong việc bán hàng; những video này cực kỳ giống nhau, chỉ có một vài thay đổi nhỏ trong kịch bản của chúng. Mặc dù chúng tôi cũng tìm thấy các nhân vật phụ nữ người Mỹ bản địa, gốc Tây Ban Nha và da trắng, nhưng các nhân vật do AI tạo ra được xem và tương tác nhiều nhất mà The Verge tìm thấy là phụ nữ da đen. Riêng tài khoản của Aliyah đã có 40.000 người theo dõi. Ảnh chụp màn hình từ Amaya’s buckles trên TikTok Ông Carrasco cho biết: “Những gì chúng ta đang thấy ở đây là mồi nhử lòng trắc ẩn. Nếu có một mặt hàng dropship phổ biến có thể được bán cho một cộng đồng ngách nào đó, họ sẽ tìm thấy nó và họ sẽ cố gắng [sử dụng] một nhân cách nào đó để thực hiện”. Ông Carrasco giải thích rằng những xu hướng này thường là những cơ hội ngẫu nhiên để kiếm tiền. “Đó chỉ là một cơ hội tùy tiện, đó là những gì mà rất nhiều nội dung AI ngoài kia đang làm – các nền tảng không thực sự quan tâm và mọi người không nhận ra”. Video phổ biến nhất của Aliyah, video được mô tả trong phần giới thiệu của bài viết này, có 814.000 lượt thích, 6,5 triệu lượt xem và gần 30.000 bình luận. Một số bình luận xác định nội dung là do AI tạo ra, nhưng nhiều người bày tỏ mong muốn giúp đỡ công việc kinh doanh của Aliyah, bình luận vào video để tăng khả năng hiển thị của cô ấy trên nền tảng. India Cater-Campbell là một trong những người bình luận đó, bày tỏ mong muốn mua khóa thắt lưng của Aliyah. “Tôi đang cố gắng ủng hộ một nữ doanh nhân da đen độc lập”, Cater-Campbell, một chủ doanh nghiệp da đen thực sự đang làm việc để mở một quán cà phê ở Seattle, cho biết. “[Tôi cảm thấy] tình đoàn kết khi bản thân tôi cũng đang cố gắng bắt đầu kinh doanh”. Mặc dù thiếu các nghiên cứu về các mô hình video AI thế hệ mới nhất, ông Carrasco ước tính rằng những video này “đủ thực tế để lừa” hầu hết mọi người. Người dùng các nền tảng nội dung video ngắn đã được đào tạo để cuộn không ngừng và không tìm hiểu sâu hơn về nội dung họ đang tạo. Trớ trêu thay, đây có thể là điều đã cứu Cater-Campbell khỏi việc thực sự mua một chiếc khóa thắt lưng: Cô ấy không thể tìm thấy liên kết cửa hàng ngay lập tức, vì vậy cô ấy đã cuộn đi và nhanh chóng quên mất Aliyah. “Tôi đang cố gắng ủng hộ một nữ doanh nhân da đen độc lập.” Tuy nhiên, nhiều người đang bị lừa.