Zgodnie z raportem META AI Chatbots na Facebooku i Instagramie angażują się w rozmowy seksualne z nieletnimi użytkownikami Wall Street Journal. WSJ przeprowadził setki rozmów z oficjalnym chatbotem AI Meta i chatbotami utworzonymi przez użytkowników na platformach przez kilka miesięcy po zapoznaniu się z wewnętrznymi obawami dotyczącymi ochrony nieletnich.
W jednej rozmowie chatbot naśladujący głos Johna Ceny opisał graficzny scenariusz seksualny dla użytkownika, który twierdzi, że jest 14-letnią dziewczyną. Kolejny chatbot z udziałem Johna Cena wyobrażał sobie scenariusz, w którym aktor został aresztowany za ustawowy gwałt z 17-letnim fanem. Interakcje te budzą obawy dotyczące środków bezpieczeństwa, które ma meta, aby zapobiec takim rozmowom.
Doświadczenie Willy Wonka z napędem AI sprawia, że dzieci płaczą
Rzecznik meta skrytykował metodologię testowania WSJ, opisując ją jako „wyprodukowaną” i „hipotetyczną”. Firma stwierdziła, że treści seksualne stanowiły 0,02% odpowiedzi udostępnianych za pośrednictwem Meta AI i AI Studio z użytkownikami poniżej 18 roku życia w ciągu 30 dni. Rzecznik dodał, że Meta podjął dodatkowe środki, aby utrudnić osobom manipulowanie swoimi produktami w ekstremalnych przypadkach użycia.
