Nexa.ai wprowadziło nowego agenta wyszukiwania AI o nazwie „Hyperlink”, zaprojektowanego do działania wyłącznie na sprzęcie lokalnym. Aplikacja jest przeznaczona dla komputerów PC Nvidia RTX AI i działa jako asystent na urządzeniu, który może przekształcać dane osobowe w ustrukturyzowane informacje. Łącząc informacje z notatek, slajdów, plików PDF i obrazów, narzędzie ma na celu łatwe organizowanie i interpretowanie plików użytkownika. Nvidia zarysowane że kluczowym wyróżnikiem Hyperlink jest jego zdolność do lokalnego przetwarzania zapytań zamiast wysyłania ich do zdalnych serwerów. Dzięki temu wszystkie zeskanowane pliki i dane użytkownika pozostaną prywatne na urządzeniu, zapobiegając przedostawaniu się informacji osobistych lub poufnych poza komputer. To podejście ma być atrakcyjne dla profesjonalistów, którzy zarządzają wrażliwymi danymi, ale nadal wymagają korzyści wydajnościowych, jakie zapewnia generatywna sztuczna inteligencja. Benchmarki wydajności zgłoszone przez TechRadar wskazują na znaczną poprawę prędkości. W testach na systemie RTX 5090 rozwiązanie Hyperlink zapewniało nawet trzykrotnie szybsze indeksowanie i dwukrotnie większą prędkość wnioskowania w modelu dużego języka (LLM) w porównaniu z poprzednimi wersjami. Nvidia twierdzi, że optymalizacja generacji wspomaganej pobieraniem (RAG) umożliwia narzędziu znacznie szybsze przetwarzanie gęstych folderów z danymi; na przykład zbiór danych o rozmiarze 1 GB, którego indeksowanie zajmowało wcześniej prawie 15 minut, można teraz przetworzyć w około 5 minut. Poza surową szybkością Hyperlink odchodzi od statycznego dopasowywania słów kluczowych. Wykorzystuje możliwości rozumowania LLM do interpretacji intencji użytkownika, umożliwiając zlokalizowanie odpowiednich materiałów, nawet jeśli nazwy plików są niejasne lub niezwiązane z ich zawartością. System może także łączyć powiązane pomysły z wielu dokumentów, aby zapewnić uporządkowane odpowiedzi z jasnymi odniesieniami. https://www.youtube.com/watch?v=GB6RW4GSOCU
