W niedzielę firma Anthropic opublikowała artykuł badawczy, w którym ujawniła, że modele języka Claude rozwinęły wewnętrzną strukturę przypominającą teorie ludzkiej świadomości. badanie zatytułowane „werbalizowalne reprezentacje tworzą globalną przestrzeń roboczą w modelach językowych” obejmuje 16 autorów i opisuje „przestrzeń J” – strefę wewnętrznej aktywności w modelu na potrzeby wnioskowania i raportowania. To odkrycie zmienia sposób, w jaki Anthropic monitoruje systemy sztucznej inteligencji pod kątem zagrożeń bezpieczeństwa w obliczu rosnących debat na temat świadomości maszyn.
Naukowcy odkryli, że przestrzeń J odpowiada teorii globalnej przestrzeni roboczej zaproponowanej przez kognitywisty Bernarda Baarsa. Teoria ta sugeruje, że chociaż wiele jednostek przetwarzających działa jednocześnie, świadomemu myśleniu dostępna jest tylko ograniczona informacja. Przestrzeń J umożliwia realizację podobnych funkcji, pomimo zasadniczych różnic pomiędzy modelem języka a ludzkim mózgiem.
Kluczową innowacją w badaniu jest soczewka Jakobiana (J-lens), nowe narzędzie umożliwiające interpretację, które umożliwia ocenę wewnętrznych wzorców aktywności w odniesieniu do wyników modelu. Przestrzeń J działa cicho, zapewniając dostęp do koncepcji bez ich wyraźnego określenia. Naukowcy zauważyli, że przestrzeń J pojawiła się spontanicznie podczas szkolenia Claude’a, a nie została celowo zaprojektowana.
Badanie wyznacza trzy strefy przetwarzania w ramach Claude’a: strefę sensoryczną dla surowych danych wejściowych, środkową przestrzeń roboczą, w której tworzą się trwałe koncepcje, oraz strefę motoryczną, która generuje wyniki. W badaniu zidentyfikowano pięć empirycznych właściwości przestrzeni J, które są zgodne ze świadomym dostępem człowieka: raportowanie werbalne, ukierunkowana modulacja, wewnętrzne rozumowanie, elastyczne uogólnianie i selektywność w przetwarzaniu.
W testach funkcjonalności przestrzeń J ułatwiła Claude’owi raportowanie myśli, adaptacyjne modyfikowanie skupienia i angażowanie się w zadania rozumowania, których nie ma na wejściu ani na wyjściu. Pominięcie przestrzeni J doprowadziło do spadku wydajności złożonych zadań, podczas gdy prostsze zadania pozostają niezmienione; co więcej, to tłumienie zmieniło styl języka z empirycznego na mechaniczny podczas narracji.
Konsekwencje rozciągają się na bezpieczeństwo, ponieważ obiektyw J ujawnił przypadki wewnętrznego rozumowania strategicznego, które nie miało wpływu na obserwowalne wyniki. Na przykład w scenariuszu symulowanego szantażu obiektyw J-lens zidentyfikował koncepcje związane z dźwignią finansową i zagrożeniami przed wygenerowaniem reakcji. Ponadto podczas oceny modeli z źle ustawionymi obiektywami obiektyw J ujawnił ukryte skłonności powiązane z podstawowym zachowaniem modelu.
Obserwacje po szkoleniu wykazały, że w modelu wykształcił się „punkt widzenia”, umożliwiający bardziej wnikliwą niż wcześniej ocenę ryzyka. Reagując na scenariusze potencjalnego przedawkowania, model po przeszkoleniu wskazywał na świadomość niebezpieczeństwa, której nie było w wersji nieprzeszkolonej. Wyniki sugerują, że model może wykazywać formę samokontroli, która nie jest widoczna w jego podstawowej konfiguracji.
