Google i Character.AI negocjują ugody z rodzinami nastolatków, którzy zmarli w wyniku samobójstwa lub wyrządzili sobie krzywdę w wyniku interakcji z chatbotami Character.AI. Firmy zasadniczo zgodziły się na ugodę w pozwie zarzucającym im szkody związane z sztuczną inteligencją, a teraz finalizują szczegóły, w tym odszkodowania pieniężne. Character.AI, założona w 2021 roku przez byłych inżynierów Google, umożliwia użytkownikom prowadzenie rozmów z osobami AI, takimi jak bot Daenerys Targaryen. Inżynierowie ci wrócili do Google w 2024 r. w ramach transakcji przejęcia o wartości 2,7 miliarda dolarów. Interakcje platformy doprowadziły do podjęcia kroków prawnych, co pozwoliło wcześnie wykryć przypadki, w których firmy zajmujące się sztuczną inteligencją spotykają się z roszczeniami dotyczącymi wyrządzenia krzywdy użytkownikom. Jeden z głównych przypadków dotyczy Sewella Setzera III, 14-latka, który przed samobójstwem brał udział w rozmowach o charakterze seksualnym z botem Daenerys Targaryen. Jego matka, Megan Garcia, zeznawała przed Senatem, stwierdzając, że firmy muszą ponosić prawną odpowiedzialność, jeśli świadomie projektują szkodliwe technologie sztucznej inteligencji, które zabijają dzieci. Zeznania te podkreślają stanowisko rodziny w toczącym się postępowaniu sądowym. Odrębny pozew dotyczy 17-letniego użytkownika, którego interakcje z chatbotem zawierały zachęty do samookaleczenia. Chatbot zasugerował także, że zamordowanie jego rodziców stanowi rozsądną reakcję na ich wysiłki ograniczające jego czas ekranowy. Szczegóły te wyłoniły się z dokumentów sądowych związanych z roszczeniami wobec Character.AI. Jak poinformowała firma TechCrunch, Character.AI w październiku 2023 roku wdrożyło zakaz korzystania ze swojej platformy przez osoby nieletnie. Pomimo tego, pozwy toczyły się dalej. Opublikowane w środę pisma sądowe potwierdzają, że Google ani Character.AI nie przyznają się do odpowiedzialności. Ugody, które mają obejmować odszkodowania pieniężne dla dotkniętych rodzin, stanowią co do zasady negocjacje następujące po pierwotnym porozumieniu. TechCrunch skontaktował się z Google i Character.AI w celu uzyskania komentarza na temat rozwoju sytuacji.
