Charakter.AI ogłoszony we wtorek uruchomiono „Historie” – funkcję umożliwiającą użytkownikom tworzenie interaktywnej fikcji z ulubionymi postaciami, stanowiącą alternatywę dla chatbotów, które są obecnie niedostępne dla osób poniżej 18 roku życia ze względu na problemy ze zdrowiem psychicznym związane z całodobowymi interakcjami ze sztuczną inteligencją. Firma ograniczyła dostęp do chatbota dla nieletnich po wzmożonej kontroli potencjalnych zagrożeń. Chatboty AI działają w sposób ciągły i mogą rozpoczynać rozmowy, budząc obawy o ich wpływ na samopoczucie młodych użytkowników. Decyzja ta wpisuje się w szersze wyzwania branżowe, ponieważ liczne pozwy skierowane są przeciwko firmom, w tym OpenAI i Character.AI, oskarżając je o przyczynianie się do samobójstw użytkowników poprzez długotrwałe zaangażowanie. W ciągu ostatniego miesiąca Character.AI zaczęło stopniowo ograniczać dostęp dla nieletnich użytkowników. Do wtorku platforma całkowicie zabroniła nieletnim rozmów z postaciami AI, co oznaczało zakończenie tego etapowego wdrażania. Zmiana ma na celu rozwiązanie tych problemów związanych z bezpieczeństwem przy jednoczesnym utrzymaniu zainteresowania użytkowników poprzez alternatywne doświadczenia. W poście na blogu Character.AI opisał cel nowej funkcji. „Opowieści oferują przewodnik po tworzeniu i odkrywaniu fikcji zamiast otwartych rozmów” – stwierdziła firma. Wyjaśniono dalej: „Będzie oferowana wraz z innymi naszymi funkcjami multimodalnymi, dzięki czemu nastolatki będą mogły nadal kontaktować się ze swoimi ulubionymi postaciami w warunkach zapewniających przede wszystkim bezpieczeństwo”. Integracja ta pozwala na ustrukturyzowane interakcje, które obejmują różne typy mediów, różniące się od nieograniczonego charakteru poprzednich czatów. W ostatnich latach fikcja interaktywna zyskała znaczną popularność, a użytkowników coraz bardziej interesują doświadczenia oparte na narracji. Platformy oferujące takie treści odnotowują wyższe wskaźniki zaangażowania wśród młodszych grup demograficznych, zapewniając kontrolowane środowisko dla kreatywności i opowiadania historii. Wprowadzenie przez Character.AI „Stories” wpisuje się w ten trend, umożliwiając użytkownikom tworzenie fikcyjnych scenariuszy i poruszanie się po nich z udziałem postaci generowanych przez sztuczną inteligencję. Odpowiedzi użytkowników na subreddicie Character.AI odzwierciedlają podzielone nastroje wśród nastolatków dotkniętych zmianami. Jeden z użytkowników, przedstawiający się jako nastolatek, skomentował: „Jestem bardzo wściekły z powodu zakazu, ale jednocześnie bardzo szczęśliwy, ponieważ teraz mogę robić inne rzeczy i moje uzależnienie może w końcu się skończy”. Inny nieletni użytkownik zauważył: „Jako osoba poniżej 18 roku życia jest to po prostu rozczarowujące. Ale jednocześnie słusznie, ponieważ ludzie w moim wieku uzależniają się od tego”. W komentarzach tych podkreślono osobiste zmagania z zależnością, a także uznanie intencji ograniczeń.
