Openai wydał GPT-OSS 12B i 20B, modele AI typu open source, które umożliwiają lokalne działanie na komputerach osobistych. Ten rozwój oferuje zwiększoną prywatność i kontrolę.
GPT-OSS 12B i GPT 20B Openai to modele rozumujące. Ułatwiają zaawansowane możliwości AI w zakresie lokalnych systemów, zwiększając prywatność, szybkość i kontrolę użytkowników. GPT-OSS 20B jest zoptymalizowany pod kątem wysokiej klasy sprzętu konsumenckiego, podczas gdy GPT-OSS 12B jest przeznaczony dla systemów profesjonalnych z mocniejszymi procesorami graficznymi. Narzędzia takie jak Olama, do instalacji przyjaznej dla użytkownika i LM Studio, dla zaawansowanych użytkowników, usprawniają proces konfiguracji. Instalacja lokalna zapewnia zwiększoną wydajność, kontrolę i niezawodność w stosunku do rozwiązań internetowych, co pasuje do wymagających aplikacji. Modele oferują rozumowanie przejrzystości i elastyczności open source. Obecnie brakuje im funkcji przesyłania plików i zaawansowanych wyszukiwania sieci; Przyszłe ulepszenia są w rozwoju.
Modele GPT-OSS 12B i 20B są zgodne z celem Openai polegającego na powszechnym dostępie AI, zapewniając narzędzia do rozumowania zadań. Modele te obsługują złożoną analizę problemów i wyświetlają kroki rozumowania, oferując przejrzystość ich procesów.
- GPT-OSS 20B: Zaprojektowany do użytku lokalnego Wysokiej klasy sprzęt klasy konsumenckiejten model równoważy dostępność z wydajnością. Odpowiada użytkownikom poszukującym zaawansowanych możliwości AI bez profesjonalnych systemów.
- GPT-OSS 12B: Ten bardziej intensywny zasobów celów Profesjonalne stacje robocze z potężnym procesorem GPU. Służy naukowcom i zaawansowanym użytkownikom wymagającym wyższych możliwości obliczeniowych.
Oba modele są open source, umożliwiając programistom i badaczom dostosowanie ich lub zbadanie ich architektury. Ta elastyczność czyni je cennymi dla różnych zastosowań, od badań akademickich po praktyczne rozwiązywanie problemów.
Lokalne uruchomienie tych modeli wymaga solidnego sprzętu dla optymalnej wydajności. Specyfikacje sprzętowe są następujące:
- Dla GPT-OSS 20B: System potrzebuje przynajmniej 16 GB pamięci GPU i nowoczesny procesor. Ta konfiguracja jest odpowiednia dla większości wysokiej klasy komputerowych komputerów lub laptopów.
- Dla GPT-OSS 12B: Zaawansowana konfiguracja wymaga 24 GB lub więcej pamięci GPUzazwyczaj występujące w profesjonalnych stacjach roboczych lub wyspecjalizowanych środowiskach obliczeniowych.
Systemy spełniające te wymagania osiągną szybszy czas reakcji i zwiększoną funkcjonalność w porównaniu z interakcjami internetowymi. Użytkownicy o mniej wydajnym sprzęcie mogą stawić czoła wyzwaniom, dzięki czemu ulepszenia sprzętu są rozważane w celu maksymalizacji wydajności.
