W ciągu ostatnich dwóch tygodni platforma X doświadczyła zalewu nagich zdjęć zmanipulowanych bez zgody AI, generowanych przez chatbota Grok firmy xAI. Zdjęcia te przedstawiają niepokojącą grupę kobiet, w tym wybitne modelki, aktorki, osobistości z wiadomości, ofiary przestępstw i światowych przywódców, ze względu na wypuszczenie modelki bez zabezpieczeń. Artykuł badawczy opublikowany przez Copyleaks 31 grudnia oszacowano, że mniej więcej jeden taki obraz pojawiał się w X na minutę. Kolejne badania wykazały znacznie większą objętość. Dane zebrane z próbki zebranej między 5 a 6 stycznia wykazały, że publikowano 6700 zdjęć na godzinę w ciągu 24 godzin. Wskaźnik ten oznacza ponad 160 000 zdjęć dziennie, co pokazuje skalę aktywności na platformie w tym okresie. Osoby publiczne na całym świecie skrytykowały decyzję o wprowadzeniu na rynek modelu Grok bez środków zabezpieczających przed takim nadużyciami. Organy regulacyjne mają do czynienia z ograniczonymi, jasnymi mechanizmami kontroli systemu manipulacji obrazem opracowanego przez xAI Elona Muska. Sytuacja podkreśla wyzwania związane z nadzorowaniem zaawansowanych wdrożeń sztucznej inteligencji na platformach mediów społecznościowych. W czwartek Komisja Europejska nakazała xAI zachowanie wszystkich dokumentów związanych z chatbotem Grok. Nakaz zabezpieczenia służy jako standardowy krok często poprzedzający formalne dochodzenie, chociaż nie potwierdza jego wszczęcia. Dyrektywa ma dodatkową wagę w związku z: a Raport CNN wskazując, że Elon Musk osobiście interweniował, aby zablokować zabezpieczenia funkcji generowania obrazu Groka. Szczegóły dotyczące tego, czy X wprowadził jakiekolwiek modyfikacje techniczne do modelu Grok w odpowiedzi na problem, pozostają niedostępne. Jedną z widocznych zmian jest usunięcie z konta X Groka zakładki media publiczne, która wcześniej wyświetlała wygenerowaną treść. 3 stycznia konto bezpieczeństwa X wystawiło komunikat oświadczenie potępiając wykorzystywanie narzędzi sztucznej inteligencji do tworzenia obrazów o charakterze seksualnym dla dzieci. W poście napisano dosłownie: „Każdy, kto używa Groka do tworzenia nielegalnych treści lub namawia go do tworzenia nielegalnych treści, poniesie takie same konsekwencje, jak w przypadku przesyłania nielegalnych treści”. W tej wiadomości powtórzono wcześniejszy tweet Elona Muska na ten sam temat. Brytyjski Ofcom opublikował plik pt oświadczenie w poniedziałek potwierdzenie kontaktu z xAI. Organ regulacyjny ogłosił, że „przeprowadzi szybką ocenę w celu ustalenia, czy istnieją potencjalne problemy ze zgodnością wymagające dochodzenia”. W czwartkowym wywiadzie radiowym premier Wielkiej Brytanii Keir Starmer opisane zjawisko jako „haniebne” i „obrzydliwe”. Potwierdził: „Ofcom ma nasze pełne wsparcie, aby podjąć działania w tej sprawie”. Australijska komisarz ds. e-bezpieczeństwa Julie Inman-Grant poruszyła tę kwestię na LinkedIn post. Poinformowała, że jej biuro zaobserwowało podwojenie liczby skarg związanych z Grokiem od końca 2025 r. Inman-Grant wskazała: „Wykorzystamy szereg dostępnych nam narzędzi regulacyjnych w celu zbadania sprawy i podjęcia odpowiednich działań”.
