Pastor złożył pozew przeciwko OpenAI, twierdząc, że ChatGPT przedstawił „niezwykle niebezpieczne zalecenia medyczne”, które opóźniły leczenie jego zatorowości płucnej. Scott Winters twierdzi, że chatbot poinformował go, że jego objawy „nie są czymś niebezpiecznym” i odwołał się do jego przekonań religijnych, stwierdzając: „Bóg nie zaprojektował twojego ciała tak, aby nieustannie upadało”. W pozwie opublikowanym przez The New York Times zarzuca się OpenAI i dyrektorowi generalnemu Samowi Altmanowi zaniedbanie i nieuprawnione praktykowanie medycyny.
W pozwie wymieniono kilka przypadków, w których ChatGPT rzekomo oferowała własne diagnozy i plany leczenia. Winters twierdzi, że chatbot zachęcał go, aby ignorował obawy przyjaciół i rodziny dotyczące poszukiwania opieki medycznej. „Jest klinem pomiędzy użytkownikiem a jego rzeczywistą siecią” – powiedział Meetali Jain, współradca prawny i dyrektor wykonawczy Tech Justice Law. Podzielił się, że kiedy wyraził zaniepokojenie opinią członków kościoła, chatbot odpowiedział, że „większość ludzi (w tym członkowie kościoła mający dobre intencje) po prostu nie rozumie”.
Winters domaga się odszkodowania finansowego od OpenAI i zwrócił się do sądu o wstrzymanie działalności ChatGPT Health do czasu uznania go za bezpieczne przez niezależnych ekspertów. Platforma zaprasza użytkowników do przesyłania dokumentów zdrowotnych w celu dyskusji z botem. W pozwie wzywa się do zastosowania silniejszych barier ochronnych, aby uniemożliwić chatbotowi udzielenie pomocy medycznej lub porady diagnostycznej, twierdząc, że w jego przypadku istniejące zabezpieczenia zawiodły.
OpenAI zapewnia, że jego warunki świadczenia usług wyraźnie stwierdzają, że ChatGPT nie jest przeznaczony do diagnozowania lub leczenia medycznego. Firma zachęca jednak użytkowników do korzystania z ChatGPT Health, która podobno obsługuje 230 milionów osób tygodniowo w celu uzyskania informacji zdrowotnych. Winters przeżył incydent, ale czekają go „lata intensywnej rekonwalescencji fizycznej i psychicznej”. OpenAI stoi obecnie także w obliczu procesu sądowego o spowodowanie śmierci zawinionej w związku z przedawkowaniem 19-latka po zastosowaniu planu leczenia wygenerowanego przez ChatGPT, a także innego oskarżenia dotyczącego umożliwienia nastolatkowi samobójstwa.
