Generacyjna sztuczna inteligencja demokratyzuje oszustwa w handlu elektronicznym, a oszuści coraz częściej wykorzystują obrazy wygenerowane przez sztuczną inteligencję, aby zabezpieczyć zwrot pieniędzy za produkty, których nigdy nie zwrócą. Według Przewodowyplatformy zakupów online, które od dawna opierają się na zdjęciach przesyłanych przez klientów w celu potwierdzenia wniosków o zwrot pieniędzy, mają trudności z rozróżnieniem między roszczeniami o odszkodowanie rzeczywistymi a sfabrykowanymi.
Problem stał się szczególnie dotkliwy na chińskich platformach mediów społecznościowych, takich jak Czerwona notatka I Douyin. Wired zwraca uwagę na niedawną sprawę dotyczącą handlarza krabami imieniem Gao Jing, który otrzymał wniosek o zwrot pieniędzy wraz z filmem przedstawiającym „martwe” kraby. Oszustwo zostało ujawnione, gdy sprzedawca zauważył biologiczne niespójności w materiale filmowym: kraby miały niewłaściwą liczbę nóg, a płeć krabów zmieniała się pomiędzy klipami. Dochodzenie policyjne potwierdziło, że wideo zostało wygenerowane przez sztuczną inteligencję, co doprowadziło do zatrzymania kupującego.
Problem wykracza poza pojedynczych oszustów. Michael Reitblat, dyrektor generalny firmy zajmującej się wykrywaniem oszustw Forterapowiedział Wired, że liczba roszczeń o zwrot środków spowodowanych sztuczną inteligencją wzrosła o ponad 15% na całym świecie od początku roku. Według doniesień zorganizowane grupy przestępcze wykorzystują te narzędzia do automatyzacji oszustw na dużą skalę, wykorzystując rotacyjne adresy IP do zasypywania sprzedawców detalicznych fałszywymi roszczeniami dotyczącymi „uszkodzonych” artykułów gospodarstwa domowego. Choć niektórzy sprzedawcy wdrażają własne narzędzia sztucznej inteligencji do wykrywania sfałszowanych obrazów, technologia ta pozostaje niedoskonała, co zmusza sprzedawców detalicznych do rozważenia bardziej rygorystycznych zasad zwrotów, co mogłoby stanowić niedogodność dla uczciwych klientów.
W lżejszej wersji tego samego raportu Wired odnotowuje wirusowy sukces „Yichang Beer”. Pomimo brandingu przedstawiającego chińskie znaki i wizerunki smoków, piwo w rzeczywistości jest warzone Kazachstan i pierwotnie był sprzedawany na rynkach rosyjskojęzycznych. Na etykiecie produktu widnieje informacja, że jest on warzony od 1858 roku – kilkadziesiąt lat przed wprowadzeniem piwa do Chin. Jak na ironię, po tym, jak jego „fałszywe” dziedzictwo stało się popularne w chińskich mediach społecznościowych, piwo jest obecnie importowane i sprzedawane w prawdziwym mieście Yichang.
