GoodFire, firma badawcza AI Interpretacbility Research z siedzibą w San Francisco, zabezpieczyła 50 milionów dolarów w finansowaniu serii A pod przewodnictwem Menlo Ventures. Inwestycja, która obejmuje również udział Lightspeed Venture Partners, Anthropic i B Capital, będzie wspierać rozszerzenie inicjatyw badawczych Goodfire oraz rozwój flagowej platformy interpretacyjności, Ember.
Finansowanie pojawia się niecały rok po założeniu Goodfire, a jego zespół składa się z najlepszych badaczy interpretacji AI i doświadczonych operatorów startupów z organizacji takich jak Openai i Google Deepmind. Naukowcy Goodfire pomogli ustalić dziedzinę mechanistycznej interpretacji, tworzenie kluczowych artykułów i pionierskich postępów, takich jak rzadkie autoencodery do odkrycia.
Platforma Ember Goodfire dekoduje neurony w modelach AI, zapewniając bezpośredni dostęp do ich wewnętrznych działań. To pozwala użytkownikom odkrywać ukrytą wiedzę, kształtować zachowania modelowe i poprawić wydajność. Technologia firmy ma na celu rozwiązanie luki w zakresie wiedzy związanej z sieciami neuronowymi, ułatwiając ich inżynier i mniej podatne na nieprzewidywalne awarie.
Inwestycja odzwierciedla rosnące znaczenie mechanistycznej interpretacji w rozwoju AI. „W miarę postępów AI nasza zdolność do zrozumienia tych systemów musi dotrzymać kroku”, powiedział Dario Amodei, CEO i współzałożyciel Anthropic. GoodFire planuje przyspieszyć swoje badania poprzez ukierunkowane inicjatywy z programistami modeli granicznych i opublikować dodatkowe podgląd badań na różnych dziedzinach.
Goodfire współpracowało już z ARC Institute z Patrickiem Hsu, współzałożycielem ARC Institute, stwierdzając, że narzędzia interpretacyjne Goodfire umożliwiły ekstrakcję nowych koncepcji biologicznych z ich modelu Fundacji DNA, EVO 2. Wysiłki firmy mają na celu ujawnienie nowych informacji naukowych i przekształcenie zrozumienia modeli AI.
