W środę Anthropic i AE Studio opublikowały metodę o nazwie Gradient-Routed Auxiliary Modules (GRAM) służącą do izolowania niebezpiecznej wiedzy zawartej w modelach sztucznej inteligencji w wymiennych modułach. Technika ta pozwala na oddzielenie wrażliwej wiedzy bez wpływu na ogólną wydajność modelu.
GRAM włącza małe pomocnicze przedziały neuronowe do modelu językowego, z których każdy koncentruje się na określonych wrażliwych kategoriach, takich jak wirusologia, cyberbezpieczeństwo czy fizyka jądrowa. Po usunięciu modułu model działa tak, jakby nigdy nie był szkolony na tych danych. I odwrotnie, gdy moduł jest aktywowany, wiedza staje się w pełni dostępna.
Metoda modyfikuje standardową architekturę transformatora poprzez zwiększenie szerokości warstw MLP o te moduły pomocnicze. Podczas uczenia, gdy model napotka powiązane dane, aktywny jest tylko moduł odpowiadający kategorii podwójnego zastosowania.
Naukowcy przetestowali GRAM na modelach o parametrach od 50 milionów do 5 miliardów. Wytrenowali model zawierający 800 milionów parametrów na różnorodnych danych tekstowych wraz z czterema domenami podwójnego zastosowania. Dane dotyczące podwójnego zastosowania stanowiły około 0,25% danych szkoleniowych dla każdej odpowiedniej domeny.
Wyniki wykazały, że usunięcie modułów GRAM wyeliminowało określone możliwości niemal tak skutecznie, jak gdyby model nigdy nie był szkolony na tych danych, podczas gdy ogólna wydajność pozostała zbliżona do poziomu bazowego. Podejście GRAM okazało się odporne na dostrajanie kontradyktoryjne, w przeciwieństwie do metod oduczania się post-hoc, które jedynie tłumią wiedzę, zamiast ją trwale usuwać.
Badanie to pojawia się w kontekście ostatnich wyzwań w zarządzaniu sztuczną inteligencją, szczególnie dotyczących kontroli eksportu modeli Anthropic wdrożonych przez administrację Trumpa w czerwcu ze względu na obawy związane z bezpieczeństwem narodowym. Ograniczenia te zostały zniesione 30 czerwca po współpracy Anthropic z Departamentem Handlu w celu ograniczenia powiązanego ryzyka.
GRAM stanowi potencjalny kompromis w polityce sztucznej inteligencji, umożliwiając selektywną kontrolę dostępu zamiast ogólnych ograniczeń modelu lub barier behawioralnych. Sprawdzone laboratorium bezpieczeństwa biologicznego mogłoby otrzymać model z nienaruszoną wiedzą wirusologiczną, natomiast ogólne wdrożenie całkowicie wykluczyłoby ten moduł.
Naukowcy zauważyli jednak, że prace te mają charakter wstępny i nie zostały zastosowane do modeli produkcyjnych w firmie Anthropic. Pozostają wyzwania dotyczące skalowalności tej techniki do większych modeli i trudności w oddzieleniu splątanych możliwości, w których ogólna wiedza z biologii pokrywa się z niebezpieczną wiedzą z zakresu wirusologii. Prace prowadzili badacze z AE Studio we współpracy z Cem Anilem i Alexem Cloudem z Anthropic.
