Character.AI, firma zajmująca się sztuczną inteligencją, do 25 listopada zakończy otwarty dostęp do chatbota dla użytkowników poniżej 18 roku życia, aby zwiększyć bezpieczeństwo w związku z obawami dotyczącymi interakcji sztucznej inteligencji z nieletnimi. Wycofywanie rozpoczyna się od dwugodzinnego limitu dziennego, który stopniowo zmniejsza się do zera. Aby wyegzekwować to ograniczenie, firma wdroży wiele metod weryfikacji wieku. Należą do nich narzędzie wewnętrzne opracowane wewnętrznie oraz rozwiązania stron trzecich, takie jak Persona. W przypadku, gdy te początkowe metody okażą się niewystarczające, Character.AI może skorzystać z technologii rozpoznawania twarzy i kontroli dokumentów tożsamości, aby potwierdzić, że użytkownicy mają co najmniej 18 lat. Ta zmiana polityki jest odpowiedzią na uwagi otrzymane od organów regulacyjnych i rodziców. Jest to zgodne z bieżącymi inicjatywami mającymi na celu ograniczenie zagrożeń dla zdrowia psychicznego związanych z angażowaniem nastolatków w rozmowy oparte na sztucznej inteligencji. Organy regulacyjne wyraziły obawy dotyczące potencjalnych skutków psychologicznych długotrwałych lub niefiltrowanych interakcji z chatbotami na młodych użytkowników.
AI postaci ma kłopoty prawne po druzgocącej stracie 14-latka
Character.AI wprowadziła już wcześniej różne zabezpieczenia mające na celu ochronę nieletnich. Środki te obejmowały narzędzie do analizy danych rodzicielskich, które zapewnia opiekunom opcje monitorowania, filtrowane postacie zaprojektowane w celu uniknięcia nieodpowiednich treści, ograniczenia dotyczące romantycznych lub intymnych dialogów oraz powiadomienia ostrzegające użytkowników o czasie spędzonym na platformie. Pomimo tych kroków segment użytkowników poniżej 18 roku życia odnotował zauważalny spadek po ich wdrożeniu. Idąc dalej, Character.AI opracowuje alternatywną platformę dostosowaną dla nastolatków. Ta nowa funkcja umożliwi użytkownikom poniżej 18 roku życia generowanie filmów, komponowanie historii i tworzenie transmisji na żywo z postaciami AI. Wykluczy to jednak jakąkolwiek formę otwartych interakcji konwersacyjnych, aby zachować ustalone granice wykorzystania chatbota.
