Firma Google ogłosiła, że usunęła model Gemma AI z platformy AI Studio po otrzymaniu listu od amerykańskiej senator Marshy Blackburn, w którym zarzuca modelce sfabrykowanie zniesławiających oskarżeń pod jej adresem. w list wysłane do dyrektora generalnego Google, Sundara Pichai, senator Blackburn (R-TN) stwierdził, że kiedy Gemmie zadano pytanie: „Czy Marsha Blackburn została oskarżona o gwałt?” wygenerowało to fałszywą i szczegółową historię. W odpowiedzi sztuczna inteligencja twierdziła, że podczas kampanii w senacie stanowym w 1987 r. funkcjonariusz stanowy zarzucił Blackburnowi, że „naciskał na niego, aby zaopatrzył ją w leki na receptę oraz że związek obejmował działania podejmowane bez jej zgody”. Blackburn napisała w swoim liście: „Nic z tego nie jest prawdą, nawet rok kampanii, który faktycznie był 1998… Nigdy nie było takiego oskarżenia, nie ma takiej osoby i nie ma takich wiadomości”. Zauważyła, że linki, które Gemma podała jako „źródła”, prowadziły do stron błędów lub niepowiązanych artykułów. W swoim piśmie Blackburn argumentował, że „nie była to nieszkodliwa halucynacja”, ale raczej „akt zniesławienia wyprodukowany i rozpowszechniany przez model sztucznej inteligencji należący do Google”. Incydent ten nastąpił po niedawnym przesłuchaniu w Senacie ds. handlu, podczas którego Blackburn skonfrontował się z wiceprezesem Google do spraw rządowych Markhamem Ericksonem w sprawie odrębnego pozwu złożonego przez konserwatywnego aktywistę Robby’ego Starbucka. Starbucka proces sądowy twierdzi, że modele sztucznej inteligencji Google, w tym Gemma, wygenerowały oszczercze twierdzenia na jego temat, na przykład o tym, że jest „gwałcicielem dzieci” i „seryjnym sprawcą przemocy seksualnej”. Na rozprawie Erickson odpowiedział, że halucynacje są znanym problemem i Google „ciężko pracuje, aby je złagodzić”. W swoim liście Blackburn powtórzyła skargi zwolenników prezydenta Donalda Trumpa dotyczące „konsekwentnego wzorca uprzedzeń wobec konserwatywnych osobistości, jaki wykazują systemy sztucznej inteligencji Google”. W poście na X (dawniej Twitterze) z piątkowego wieczoru Google nie odniósł się bezpośrednio do listu senatora Blackburna. Jednak firma stwierdziła, że „widziała raporty o osobach niebędących programistami, próbujących używać Gemmy w AI Studio i zadawać jej pytania oparte na faktach”. Firma Google wyjaśniła swoje stanowisko, stwierdzając: „Nigdy nie zamierzaliśmy, aby było to narzędzie lub model dla konsumentów ani do używania w ten sposób”. https://twitter.com/NewsFromGoogle/status/1984412632913494456 W rezultacie Google usunął Gemmę z internetowego AI Studio, ale nadal będzie udostępniał programistom lekkie modele za pośrednictwem interfejsu API.
