Śledczy amerykańscy wdrażają sztuczną inteligencję w celu identyfikacji materiałów o wykorzystywaniu seksualnym dzieci stworzonym przez generatywną sztuczną inteligencję. Centrum cyberprzestępczości Departamentu Bezpieczeństwa Wewnętrznego prowadzi wysiłki w celu odróżnienia syntetycznych obrazów od przedstawienia prawdziwych ofiar. Inicjatywa odnosi się do udokumentowanego wzrostu obraźliwej treści generowanej przez AI. Fundacja internetowa Watch (IWF) odnotowała znaczny wzrost tego rodzaju zdjęć pojawiających się na forach Dark-WEB. Materiał ten często składa się z fotorealistycznych głębokich szaf, które mogą obejmować podobieństwo prawdziwych jednostek lub byłych ofiar. Syntetyczne pochodzenie tych obrazów stanowi poważne wyzwania dla organów ścigania, komplikując wysiłki na rzecz ustalenia przestępczości. W odpowiedzi Centrum DHS Cyberprzestępstwa, główny organ śledczy w USA do wykorzystania dzieci, eksperymentuje z narzędziami wykrywania napędzanym AI. Te zaawansowane metody są przyjmowane w celu przeciwdziałania niewłaściwemu wykorzystaniu generatywnej technologii AI w tym kontekście. Celem jest poprawa identyfikacji treści generowanej komputerowo, a tym samym poprawianie interwencji i procesów dochodzeniowych w przypadkach eksploatacji dzieci.
