Neuchips, dostawca zintegrowanych obwodów zintegrowanych aplikacji AI (ASICS), ogłosił partnerstwo z ShareGuru z Vecow and Golden Smart Home (GSH) Technology Corp. w celu opracowania generatywnego rozwiązania AI w celu zastrzeżenia danych. Współpraca ma na celu umożliwienie firmom wyodrębniania spostrzeżeń w czasie rzeczywistym z wewnętrznych baz danych przy użyciu zapytań języka naturalnego.
Partnerstwo koncentruje się na rozwiązywaniu wyzwań złożonych przetwarzania danych SQL i potrzebie prywatności danych. Rozwiązanie łączy ECX-3100 ECX-3100 Rag Edge Ai Work-Working Workstation, GSH ShareGuru QA 2.0 Solution oraz karta Gen AI serii Viper Neuchips.
Kluczowe aspekty rozwiązania współpracy obejmują:
- Przetwarzanie danych offline: Karta serii Viper Neuchips umożliwia lokalne przetwarzanie rozwiązania ShareGuru, zwiększenie prywatności i bezpieczeństwa danych.
- Zapytania języka naturalnego: System pozwala użytkownikom generować zapytania SQL za pomocą języka ludzkiego, upraszczając dostęp do danych i zmniejszając poleganie na wiedzy specjalistycznej SQL.
- Wydajność energetyczna: Neuchips podkreśla zdolność serii Viper do obsługi 12 miliardów modeli parametrów przy zużyciu energii 45 W.
- LLM z obsługą RAG: Rozwiązanie wykorzystuje generowanie pobierania (RAG), aby zapewnić dostęp do aktualnych danych bez wymagania przekwalifikowania modelu.
- Specyfikacje sprzętowe: Karta akceleratora AI Series Neuchips Series ma 32 GB pojemności pamięci i natywną obsługę modelu języka strukturalnego BF16.
Neuchips podkreśla, że jego karta serii Viper wyładowuje znaczną część generatywnego przetwarzania AI z procesora. Vecow podkreśla rolę rozwiązania w zaspokojeniu rosnącego zapotrzebowania na lokalne aplikacje generatywne AI i multimodalne modele dużych języków (LLM). Platforma GSH ShareGuru zapewnia rozwiązanie SLM, które oddziałuje ze sprzętem NeUCHIPS.
Firmy zaprezentują swoje wspólne rozwiązanie w Embedded World 2025 w Norymberdze w Niemczech, na stoisku Vecow. Neuchips ogłosił także przyszłe plany skoncentrowania się na multimodalności o niskiej mocy do 2026 r.
Wyróżniony obraz obrazu: Google DeepMind/Unsplash
