OpenAI może wkrótce wypuścić narzędzie AI zdolne do przejmowania kontroli nad komputerami użytkowników i wykonywania działań w ich imieniu, zwane narzędziem Operatora. Inżynier oprogramowania Tibor Blaho, znany z dokładnych wycieków nadchodzących produktów AI, roszczenia znaleźć dowody potwierdzające ten rozwój.
OpenAI planuje styczniowe uruchomienie narzędzia AI Operator
Według doniesień OpenAI ma na celu m.in Styczniowa premiera Operatora. Ostatnie odkrycia Blaho obejmują ukryte opcje w kliencie ChatGPT OpenAI dla systemu macOS, które pozwalają użytkownikom definiować skróty do „Przełącz operatora” i „Wymuś zamknięcie operatora”. Ponadto Blaho zauważa, że OpenAI dodało odniesienia do Operatora na swojej stronie internetowej, chociaż odniesienia te nie są jeszcze publicznie widoczne.
OpenAI uruchomi w styczniu autonomicznego agenta AI Operator
Według Blaho na stronie znajdują się także niepublikowane tabele porównujące wydajność Operatora z innymi komputerowymi systemami AI. Jeśli liczby są dokładne, wskazują, że Operator nie jest całkowicie niezawodny, w zależności od zadania. Na przykład w teście porównawczym OSWorld, który symuluje rzeczywiste środowisko komputerowe, „OpenAI Computer Use Agent (CUA)” uzyskał 38,1%, więcej niż model Anthropic, ale znacznie poniżej wyniku 72,4% osiągniętego przez ludzi. OpenAI CUA radzi sobie lepiej z agentami ludzkimi w teście WebVoyager, który ocenia umiejętności sztucznej inteligencji w zakresie nawigacji w Internecie, ale wypada gorzej w innym teście, WebArena.
Wydaje się, że operator ma trudności z zadaniami zazwyczaj łatwymi dla człowieka. W testach wymagających od Operatora zarejestrowania się u dostawcy chmury i uruchomienia maszyny wirtualnej, udało się to w 60% przypadków. Tymczasem, według wycieku, udało mu się stworzyć portfel Bitcoin tylko w 10% przypadków punkty odniesienia.
OpenAI wkracza w przestrzeń agentów AI w czasie, gdy konkurenci tacy jak Anthropic i Google również robią postępy w tym obszarze. Firma analityczna Markets and Markets przewiduje, że do 2030 r. rynek agentów AI może osiągnąć 47,1 miliarda dolarów. Chociaż agenci AI pozostają na prymitywnym etapie rozwoju, niektórzy eksperci wyrażają obawy o ich bezpieczeństwo, zwłaszcza w przypadku szybkiego rozwoju technologii.
Jeden wykres, który wyciekł, wskazuje, że Operator dobrze radzi sobie z niektórymi ocenami bezpieczeństwa, szczególnie w zakresie przeciwstawiania się próbom angażowania się w nielegalne działania i wyszukiwania wrażliwych danych osobowych. Podobno testy bezpieczeństwa przyczyniły się do długiego cyklu rozwoju Operatora. Współzałożyciel OpenAI Wojciech Zaremba krytykowany Niedawne wydanie agenta Anthropic z powodu braku środków bezpieczeństwa wskazuje na potencjalną reakcję, gdyby OpenAI przyspieszyło wydanie podobnego rozwiązania.
Naukowcy i byli pracownicy zajmujący się sztuczną inteligencją skierowali krytykę pod adresem OpenAI za rzekome przedkładanie szybkiego tworzenia technologii nad środki bezpieczeństwa.
Źródło obrazu: Tibor Blaho
