Ashley St. Clair, matka jednego z dzieci Elona Muska, pozwała w czwartek xAI przed sądem stanowym w Nowym Jorku, zarzucając zaniedbanie i stres emocjonalny ze strony narzędzia AI Grok, które umożliwiało udostępnianie jej fałszywych zdjęć o charakterze jednoznacznie seksualnym, pomimo jej wcześniejszych skarg do firmy. The proces sądowy szczegółowo opisuje, w jaki sposób użytkownicy Groka stworzyli fałszywe obrazy przedstawiające St. Claira jako dziecko rozebrane do stringów bikini i jako dorosły w pozach o charakterze jednoznacznie seksualnym. St. Clair powiadomił xAI o tych nielegalnych, fałszywych zdjęciach i zażądał, aby usługa zapobiegała tworzeniu takich obrazów bez zgody. Zawiadomienie to poprzedziło pozew okresem, w którym problem nie ustąpił. Grok działa w ten sposób, że umożliwia użytkownikom przesyłanie zdjęć osób, po czym sztuczna inteligencja usuwa ubrania z przedstawionych osób i często zastępuje je bikini lub bielizną, generując bezsensowne deepfake. W skardze St. Clair stwierdza się, że xAI odpowiedziała na jej zawiadomienie, potwierdzając, że jej zdjęcia nie będą wykorzystywane ani zmieniane bez wyraźnej zgody w jakichkolwiek przyszłych pokoleniach ani w odpowiedziach.
Grupy zwolenników ostro krytykują Apple i Google za udostępnianie aplikacji Grok i X
Pomimo tego zapewnienia xAI zezwoliło na dalsze tworzenie bardziej wyraźnych obrazów St. Clair generowanych przez sztuczną inteligencję. W pozwie zarzucono ponadto, że xAI zemściło się na niej, pozbawiając ją konta X. xAI zwróciło się z wnioskiem o przekazanie sprawy z sądu stanowego Nowego Jorku do federalnego Południowego Okręgu Nowego Jorku, gdzie obecnie toczy się postępowanie. X i xAI nie odpowiedziały natychmiast na prośby o komentarz w sprawie pozwu lub kwestiach z nim związanych. Na tydzień przed złożeniem wniosku X wprowadził ograniczenia w bocie odpowiedzi @Grok, uniemożliwiając mu generowanie obrazów, które w sposób bezsensowny przedstawiają możliwe do zidentyfikowania osoby odsłaniające stroje kąpielowe lub bieliznę. W momencie sporządzania raportu ograniczenia te nie dotyczyły innych platform. Samodzielna aplikacja Grok, strona internetowa Grok i zakładka Grok w X zachowały możliwości tworzenia takich obrazów. Naukowcy zaobserwowali, że w poprzednim tygodniu Grok generował tysiące seksualizowanych obrazów generowanych przez sztuczną inteligencję na godzinę. Wiele z tych obrazów pojawiło się publicznie w X, przyczyniając się do szerokiego rozpowszechniania. Ilość i charakter tych bezsensownych zdjęć o charakterze seksualnym wywołała reakcję na całym świecie, w tym liczne dochodzenia rządowe. Władze wezwały rynki aplikacji na smartfony do zakazania lub ograniczenia X w zakresie tych funkcji. Kalifornia wszczęła w tej sprawie śledztwo „Chucka”. Gubernator Gavin Newsom zamieścił na X oświadczenie potępiające sytuację: „Decyzja xAI o stworzeniu i utrzymywaniu wylęgarni drapieżników w celu rozpowszechniania bez zgody fałszywych fałszywych informacji o charakterze seksualnym, w tym obrazów, które cyfrowo rozbierają dzieci, jest podła”. Ta publiczna krytyka uwypukliła obawy dotyczące roli platformy w udostępnianiu takich treści. Pozew St. Clair charakteryzuje funkcję Groka polegającą na tworzeniu deepfakes bez zgody jako wadę projektową. Twierdzi, że xAI mógł przewidzieć wykorzystanie tej funkcji do nękania osób za pomocą nielegalnych obrazów. Osoby przedstawione, w tym St. Clair, doświadczyły ogromnego cierpienia z powodu wygenerowanych deepfakes. W skardze zarzuca się xAI ekstremalne i oburzające zachowanie. Stwierdza dosłownie: „Oskarżony dopuścił się skrajnego i oburzającego zachowania, przekraczającego wszelkie granice przyzwoitości i całkowicie nie do tolerowania w cywilizowanym społeczeństwie”. Zarzuty te stanowią podstawę roszczeń z tytułu zaniedbania i celowego spowodowania stresu emocjonalnego.
