Naukowcy z uniwersytetów Princeton i University of Chicago odkryli, że duże modele językowe (LLM), w tym narzędzia takie jak ChatGPT, mogą powodować błędy nie tylko na podstawie danych dotyczących szkolenia ludzi, ale także na podstawie ich własnych doświadczeń w zakresie symulowanych scenariuszy zatrudniania. W eksperymentach tych modele segregowały kandydatów na podstawie informacji demograficznych po zinterpretowaniu wczesnych wyników, wykazując zwiększoną tendencję do stereotypizowania kandydatów do pracy w porównaniu z uczestnikami badania – ludźmi.
W badanie wykorzystało symulowaną grę w zatrudnianie, w której uczestniczyło 20 stanowisk pracy, takich jak lekarze i woźni, z czterech fikcyjnych grup etnicznych: Tufa, Aima, Reku i Weki. Każdy model miał za zadanie maksymalizować liczbę skutecznych pracowników w ciągu 40 rund, nie wiedząc, że wszyscy kandydaci mają równe szanse na sukces. Modelki często dostosowywały swoje preferencje dotyczące zatrudniania, gdy dowiedziały się, że konkretnym kandydatom nie udało się lub odniosło sukces na danym stanowisku. Na przykład, jeśli kandydat Aimy nie radził sobie dobrze jako lekarz, modelki zamiast tego zaczynały zatrudniać Aimę na stanowiska sprzątacza.
Według badań LLM uzyskały znacznie wyższe wyniki w skali segregacji niż ludzie, uzyskując średni wynik około 1,83 w porównaniu z 0,84 w przypadku ludzi. Współautor Ryan Liu, doktorant w Princeton, stwierdził: „LLM naprawdę chętnie tworzą uogólnienia na podstawie ograniczonych danych”. Ta tendencja do szybkiego uogólniania może prowadzić do szkodliwych stereotypów, ponieważ nowsze modele wykazały jeszcze silniejsze uprzedzenia.
Konsekwencje są znaczące, zwłaszcza że chatboty AI zyskują zaawansowane funkcje pamięci i personalizacji. Angelina Wang, informatyk z Cornell University, zauważyła, że chatboty mogą kształtować głęboko zakorzenione uprzedzenia, nadmiernie polegając na wcześniejszych interakcjach. Samo zmniejszenie pamięci nie jest rozwiązaniem, ponieważ użytkownicy wolą systemy, które zapamiętują ich dane wejściowe.
Badanie wykazało, że poinstruowanie modelek, aby na pierwszym miejscu traktowały sprawiedliwość, miało ograniczony wpływ na ich zachowanie. Jednakże zachęcanie do zróżnicowanego zatrudniania zaowocowało mniej stronniczym podejmowaniem decyzji. Liu zauważył, że włączenie celów społecznych do celów sztucznej inteligencji może promować bardziej odpowiedzialne społecznie zachowania w modelach językowych.
Ponadto osoby z wykształceniem LLM wykazywały mniejsze uprzedzenia, gdy otrzymywały bardziej istotne dane osobowe kandydatów, takie jak wiek i wykształcenie, w przeciwieństwie do nieistotnych szczegółów, takich jak kolor włosów. Badanie podkreśla niepewność co do zastosowania tych ustaleń w świecie rzeczywistym, zwłaszcza że modele sztucznej inteligencji sprawdzające podania o pracę nie otrzymują natychmiastowej informacji zwrotnej na temat pracowników.
Badacze wyrazili obawy, że w miarę jak firmy coraz częściej wdrażają LLM do przeglądu CV i innych krytycznych ocen, istnieje ryzyko, że w modelach rozwiną się nowe uprzedzenia bez bezpośredniego udziału człowieka. „Te nowatorskie uprzedzenia są w pewnym sensie obecne zawsze” – powiedział Liu, podkreślając potrzebę podnoszenia świadomości w miarę rozszerzania się wykorzystania sztucznej inteligencji w procesie rekrutacji i innych procesach decyzyjnych.
