Firma Bezpieczeństwo Radware odkryła lukę o zerowym kliknięciu, „Shadowleak”, w głębokim agencie badawczym Chatgpt. Wada umożliwia kradzież danych z serwerów Openai, ponieważ przedsiębiorstwa coraz częściej używają sztucznej inteligencji do analizy poufnych wiadomości e -mail i raportów wewnętrznych. Przyjęcie tych platform AI wprowadza nowe zagrożenia bezpieczeństwa podczas obsługi poufnych informacji biznesowych. Shadowleak to exploit po stronie serwera, co oznacza, że atak wykonuje się całkowicie na serwerach Openai. Ten mechanizm pozwala atakującym na exfiltowanie wrażliwych danych bez wymagania interakcji użytkownika, działające całkowicie potajemnie. David Aviv, dyrektor ds. Technologii w Radware, sklasyfikował go jako „kwintesencję ataku zerowego kliknięcia”. Stwierdził: „Nie wymaga żadnych działań użytkownika, nie ma widocznej wskazówki i nie ma możliwości, aby ofiary wiedziały, że ich dane zostały naruszone. Wszystko dzieje się całkowicie za kulisami poprzez działania autonomiczne agentów na serwerach Cloud Openai”. Ten exploit działa niezależnie od punktów końcowych użytkowników lub sieci firmy, co sprawia, że wykrywanie przez zespoły ds. Bezpieczeństwa przedsiębiorstwa jest niezwykle trudne. Badacze Radware wykazali, że wysłanie wiadomości e -mail z ukrytymi instrukcjami może wywołać głębokiego agenta badawczego, powodując autonomicznie wyciek informacji bez wiedzy użytkownika. Pascal Geenens, dyrektor ds. Inteligencji cyberprzestępczości w Radware, ostrzegł, że ochrona wewnętrzna jest niewystarczająca. „Przedsiębiorstwa przyjmujące sztuczną inteligencję nie mogą polegać na samych wbudowanych zabezpieczeniach, aby zapobiec nadużyciom”, powiedział Geenens. „Przepływy pracy oparte na AI można manipulować w sposób, w jaki jeszcze nie przewidywano, a te wektory ataku często omijają możliwości widoczności i wykrywania tradycyjnych rozwiązań bezpieczeństwa”. Shadowleak reprezentuje pierwszy atak czysto po stronie serwera, zero-kliknięcie danych, który nie pozostawia prawie żadnych dowodów kryminalistycznych z perspektywy biznesowej. Ponieważ Chatgpt zgłasza ponad 5 milionów płacących użytkowników biznesowych, potencjalna skala ekspozycji jest znaczna. Ten brak dowodów komplikuje wysiłki reagowania na incydenty. Eksperci podkreślają, że ludzkie nadzór i ścisłe kontrole dostępu mają kluczowe znaczenie przy łączeniu autonomicznych agentów AI z wrażliwymi danymi. Organizacje zaleca się ciągłą ocenę luk bezpieczeństwa i łączenia technologii z praktykami operacyjnymi. Zalecane środki ochronne obejmują:
- Wdrażanie warstwowej obrony cyberbezpieczeństwa.
- Regularne monitorowanie przepływów pracy opartych na AI pod kątem nietypowej aktywności lub wycieków danych.
- Wdrażanie rozwiązań antywirusowych w celu ochrony przed tradycyjnym złośliwym oprogramowaniem.
- Utrzymanie solidnej ochrony oprogramowania ransomware w celu ochrony informacji.
- Egzekwowanie ścisłych kontroli dostępu i uprawnień użytkowników dla narzędzi AI.
- Zapewnienie ludzkiego nadzoru, gdy autonomiczni agenci AI przetwarzają poufne informacje.
- Wdrożenie rejestrowania i kontroli aktywności agenta AI w celu wcześniejszej identyfikacji anomalii.
- Integracja dodatkowych narzędzi AI do wykrywania anomalii i zautomatyzowanych alertów bezpieczeństwa.
- Edukowanie pracowników na temat zagrożeń związanych z AI i ryzykiem agentów autonomicznych.
- Łączenie obrony oprogramowania, praktyk operacyjnych i ciągłej czujności.
