Google potwierdziło podatność na bezpieczeństwo obejmującą nowy atak oparty na sztucznej inteligencji, który może zagrozić kont Gmail. Firma zauważyła, że zagrożenie „nie jest specyficzne dla Google” i podkreśla potrzebę silniejszej obrony przed szybkimi atakami wstrzyknięcia.
Jak działa szybki atak wtrysku
Atak wykorzystuje złośliwe instrukcje ukryte wewnątrz pozornie nieszkodliwych przedmiotów, takich jak e -maile, załączniki lub zaproszenia kalendarzowe. Chociaż instrukcje te są niewidoczne dla ludzkiego użytkownika, asystent AI może je czytać i wykonywać. Badacz Eito Miyamura zademonstrował lukę w filmie opublikowanym na X.
Mamy chatgpt, aby wyciekać prywatne dane e -mail. Wszystko, czego potrzebujesz? Adres e -mail ofiary. Agenci AI, tacy jak CHATGPT, śledzą twoje polecenia, a nie zdrowy rozsądek … Za pomocą tylko twojego e -maila udało nam się wydłużyć wszystkie twoje prywatne informacje.
https://twitter.com/eito_miyamura/status/1966541235306237985 Atak może zostać wywołany przez specjalnie wykonany kalendarz, aby użytkownik nawet nie musi zaakceptować. Gdy użytkownik prosi swojego asystenta AI o wykonanie rutynowego zadania, takiego jak sprawdzanie swojego kalendarza, AI odczytuje Hidden Command w zaproszeniu. Złośliwe polecenie instruuje następnie sztuczną inteligencję, aby przeszukała prywatne e -maile użytkownika i wysłać dane do atakującego.
Jak chronić swoje konto i odpowiedź Google
Google wcześniej ostrzegł przed tego rodzaju zagrożeniem w czerwcu, stwierdzając, że instrukcje osadzone w dokumentach lub zaproszeniach kalendarzowych mogą poinstruować sztuczną inteligencję, aby „wykupić dane użytkownika lub wykonywać inne nieuczciwe działania”. Firma wdraża teraz obronę i doradza użytkownikom, jak się chronić.
- Włącz ustawienie „znanych nadawców” w kalendarzu Google: Google twierdzi, że jest to skuteczny sposób, aby zapobiec automatycznie pojawienia się złośliwych zaproszeń w twoim kalendarzu. Atak jest mniej prawdopodobne, że użytkownik wcześniej interakcja z atakującym lub zmieni to ustawienie domyślne.
- Google trenuje swoje modele AI, aby oprzeć się tym atakom: Firma twierdzi, że szkolenie z danymi przeciwnikowymi „znacznie zwiększyło naszą obronę przed pośrednim szybkim atakiem wtrysku w modelach Gemini 2.5”.
- Wdrażane są nowe modele wykrywania: Google wprowadza zastrzeżone modele uczenia maszynowego, które mogą wykrywać i zneutralizować złośliwe podpowiedzi w e -mailach i plikach przed ich wykonaniem.
PamiętaćAI może być super mądre, ale można je oszukać i wyfascydować w niewiarygodnie głupi sposobach wycieku danych.
