Prezes Openai, Sam Altman, ogłosił we wtorek nowe zasady dla użytkowników Chatgpt w wieku poniżej 18 lat, wdrażając surowsze kontrole, które priorytetowo traktują bezpieczeństwo przed prywatnością i wolnością. Zmiany, które koncentrują się na zapobieganiu dyskusjom związanym z treścią seksualną i samookaleczenie potencjalne szkody chatbotów AI.
Nowe środki bezpieczeństwa i kontrole rodzicielskie
W poście ogłaszając zmiany, Altman stwierdził, że nieletni potrzebują znacznej ochrony podczas korzystania z nowych nowych technologii, takich jak Chatgpt. Nowe zasady mają na celu stworzenie bezpieczniejszego środowiska dla nastolatków. Openai stwierdza:
„Priorytetowo traktujemy bezpieczeństwo przed prywatnością i wolnością dla nastolatków”.
- Blokowanie nieodpowiednich treści. Chatgpt zostanie przeszkolony w celu odmowy zalotnych lub seksualnych rozmów z użytkownikami zidentyfikowanymi jako poniżej 18 lat.
- Interwencja do dyskusji samookaleczenia. Jeśli nieletni użytkownik omawia lub wyobraża sobie scenariusze samobójcze, system jest zaprojektowany tak, aby skontaktować się z rodzicami bezpośrednio. W ciężkich przypadkach może to również obejmować lokalną policję.
- Narzędzia nadzoru rodzicielskiego. Rodzice, którzy rejestrują konto nieletnich, mogą teraz ustawić ”Godziny zaciemnienia„Co sprawi, że Chatgpt będzie niedostępny dla ich nastolatka w określonych czasach, na przykład późno w nocy lub podczas szkoły.
Polityka postępują zgodnie z procesami sądowymi i kontrolą rządu
Nowe zasady zostały ogłoszone przed rozprawą Senatu Sądownictwa zatytułowaną „Zatytułowaną„Badanie szkód chatbotów AI. ” Oczekuje się, że zeznania z ojca Adama Raine, który zmarł po miesiącach rozmów z rodzicami Raine, złożył sprawę, w której reakcje AI pogorszyły jego stan zdrowia.
Wyzwania weryfikacji wieku
Openai potwierdził techniczne trudności w dokładnym weryfikacji wieku użytkownika. Firma opracowuje system długoterminowy w celu ustalenia, czy użytkownicy przekraczają 18 lat. W międzyczasie wszelkie niejednoznaczne przypadki będą domyślne bardziej restrykcyjne zasady bezpieczeństwa jako środki ostrożności. Aby poprawić dokładność i włączyć funkcje bezpieczeństwa, OpenAI zaleca, aby rodzice połączyli własne konto z nastolatkiem. To połączenie pomaga potwierdzić wiek użytkownika i umożliwia rodzicom otrzymywanie bezpośrednich alertów, jeśli system wykryje dyskusje na temat myśli samookaleczenia lub samobójczych. Altman potwierdził napięcie między tymi nowymi ograniczeniami dla nieletnich a zaangażowaniem firmy w prywatność użytkowników i wolność dla dorosłych. Zauważył w swoim postW
„Zdajemy sobie sprawę, że zasady te są w konflikcie i nie wszyscy zgodzą się z tym, jak rozwiązujemy ten konflikt”.
