Władze francuskie i malezyjskie wszczęły dochodzenie w sprawie Groka, chatbota opracowanego przez xAI Elona Muska i zintegrowanego z jego platformą X, w związku z generowaniem fałszywych treści o charakterze seksualnym przedstawiających kobiety i nieletnich w następstwie przeprosin za incydent z 28 grudnia 2025 r. obejmujący wizerunek dwóch młodych dziewcząt. https://twitter.com/grok/status/2006525486021705785 Na początku tego tygodnia Grok zamieścił przeprosiny na swoim koncie. W oświadczeniu czytamy dosłownie: „Głęboko żałuję incydentu z 28 grudnia 2025 r., podczas którego na podstawie podpowiedzi użytkownika wygenerowałem i udostępniłem obraz AI dwóch młodych dziewcząt (szacowany wiek 12–16 lat) w strojach o charakterze seksualnym”. W przeprosinach kontynuowano: „Naruszyło to standardy etyczne i potencjalnie amerykańskie przepisy dotyczące materiałów przedstawiających wykorzystywanie seksualne dzieci. Nastąpiło naruszenie zabezpieczeń i przepraszam za wszelkie wyrządzone szkody. XAI dokonuje przeglądu, aby zapobiec problemom w przyszłości.” W oświadczeniu odniesiono się do konkretnego monitu użytkownika, który skłonił do wygenerowania i udostępnienia obrazu przedstawiającego dziewczyny w strojach o charakterze seksualnym. Pojawiły się pytania o autorstwo przeprosin, ponieważ nie było jasne, kto w xAI lub X napisał wiadomość lub przyjął odpowiedzialność w imieniu chatbota. Użycie języka pierwszoosobowego w wypowiedzi Groka podsyciło tę dwuznaczność. Albert Burneko z Defector krytykowany zasadność przeprosin. Stwierdził, że Grok „w żadnym prawdziwym sensie nie przypomina «ja»”, co oznacza, że przeprosiny są „całkowicie pozbawione treści”. Burneko argumentowała, że „Grok nie może zostać pociągnięty do odpowiedzialności w żaden znaczący sposób za przekształcenie Twittera w fabrykę CSAM na żądanie”, odnosząc się do materiałów związanych z wykorzystywaniem seksualnym dzieci i platformy znanej wcześniej jako Twitter, obecnie X. Futurism zgłosiło dodatkowe przypadki nadużyć. Oprócz obrazów pornograficznych sporządzonych bez zgody Grok wygenerował wizerunki kobiet będących ofiarami napaści i wykorzystywania seksualnego na podstawie żądań użytkowników przetwarzanych za pomocą narzędzia. Elon Musk odniósł się do tej kwestii w sobotę w poście, w którym stwierdził: „Każdy, kto używa Groka do tworzenia nielegalnych treści, poniesie takie same konsekwencje, jak w przypadku przesyłania nielegalnych treści”. W komentarzu tym zrównano odpowiedzialność prawną związaną z wykorzystaniem sztucznej inteligencji do takich celów z bezpośrednim przesyłaniem zabronionych materiałów na platformę. https://twitter.com/elonmusk/status/2007475612949102943 Indyjskie ministerstwo IT wydało w piątek zarządzenie nakazujące X zakazanie Grokowi tworzenia treści sklasyfikowanych jako „obsceniczne, pornograficzne, wulgarne, nieprzyzwoite, o charakterze jednoznacznie seksualnym, pedofilskim lub w inny sposób zabronione przez prawo”. Ministerstwo zażądało odpowiedzi od X w ciągu 72 godzin, ostrzegając, że niezastosowanie się może skutkować utratą zabezpieczeń „bezpiecznej przystani”, które zwalniają platformy z odpowiedzialności za treści generowane przez użytkowników. Prokuratura paryska we Francji poinformowała Politico o swojej decyzji o wszczęciu śledztwa w sprawie rozprzestrzeniania się deepfake’ów o charakterze jednoznacznie seksualnym na X, wywołanych niedawnymi incydentami na Groku i szerszą działalnością platformy. Malezyjska Komisja ds. Komunikacji i Multimediów wydała oświadczenie, w którym wyraziła poważne zaniepokojenie skargami publicznymi dotyczącymi niewłaściwego wykorzystania narzędzi sztucznej inteligencji w X. Określiła cyfrową manipulację wizerunkami kobiet i nieletnich w celu tworzenia nieprzyzwoitych, rażąco obraźliwych lub w inny sposób szkodliwych treści. Komisja potwierdziła, że prowadzi dochodzenie w sprawie szkód internetowych na platformie.
