W miarę rozwoju technologii DeepFake, obawy dotyczące dezinformacji i kradzieży tożsamości rosną, podkreślone przez ostatnie badanie IProov ujawniające, że większość jednostek stara się rozróżnić zawartość rzeczywistych i generowanych przez AI.
. badanie zaangażowało się 2000 uczestników w Wielkiej Brytanii i USA, narażając ich na mieszankę prawdziwych i głębokich zdjęć i filmów. Niepokojące, tylko 0,1% uczestników, w sumie tylko dwie osoby, może dokładnie rozróżnić bodźce prawdziwe i głębokie.
Starsi dorośli stały się szczególnie narażone na oszustwo generowane przez AI. Około 30% uczestników w wieku 55-64 lat i 39% osób powyżej 65 roku życia zgłosiło, że nigdy nie słyszeli o głębokich szafkach przed badaniem. Chociaż młodsi uczestnicy (w wieku 18–34 lat) wykazali większe zaufanie do ich zdolności do wykrywania głębokich szaf, ich faktyczna wydajność nie odzwierciedlała poprawy.
Wyzwania w zakresie wykrywania głębokiego
Badanie wykazało, że wykrywanie filmów DeepFake było znacznie trudniejsze niż identyfikacja zdjęć. Uczestnicy byli 36% mniej narażeni na dokładnie identyfikację syntetycznego filmu w porównaniu z obrazem syntetycznym, zwiększając obawy dotyczące potencjału oszustw wideo, takich jak personifikacja podczas połączeń wideo.
Platformy mediów społecznościowych zostały zidentyfikowane jako główne źródła treści głębokich. Prawie połowa uczestników (49%) zacytowała meta platformy, w tym Facebook i Instagram, jako najczęstsze strony głębokich szaf, a 47% wskazało na Tiktok.
Andrew Bud, założyciel i dyrektor generalny IProov, skomentował ustalenia, zwracając uwagę na podwyższoną podatność zarówno organizacji, jak i konsumentów na oszustwa tożsamości w erze głębokiego Fake. Stwierdził: „Przestępcy wykorzystują niezdolność konsumentów do odróżnienia rzeczywistości od fałszywych obrazów, narażając dane osobowe i bezpieczeństwo finansowe”. Pomimo niepokojących wyników badanie wykazało, że tylko 20% respondentów zgłosi podejrzane głębokie fake online.
W miarę jak głęboko wyrafinowały się, IProov sugeruje, że sama percepcja człowieka jest niewystarczająca do niezawodnego wykrywania. Bud podkreślił konieczność biometrycznych rozwiązań bezpieczeństwa z wykrywaniem żywotności w celu zwalczania zagrożenia, jakie stwarza przez przekonanie materiału głębokiego.
Badania IProov pokazują pilną potrzebę ochrony swoich klientów poprzez integrację solidnych środków bezpieczeństwa. Bud uważa, że użycie biometryki twarzy z wykrywaniem żywotności oferuje godny zaufanie współczynnik uwierzytelnienia, który priorytetowo traktuje bezpieczeństwo, jak i kontrolę indywidualną.
Według badań tylko 22% konsumentów słyszało o głębokich szafkach przed uczestnictwem. Ponadto wiele osób wykazywało znaczną pewność siebie w zakresie umiejętności wykrywania, a ponad 60% uważa, że może zidentyfikować głębokie szafki, mimo że większość osiągnęła słabo. Wśród młodszych dorosłych to fałszywe poczucie bezpieczeństwa było szczególnie powszechne.
Odkrycia wskazały również na spadek zaufania do platform mediów społecznościowych po tym, jak użytkownicy dowiedzieli się o głębokich szafkach, a 49% zgłosiło spadek zaufania. Tymczasem 74% uczestników wyraziło obawy dotyczące społecznych konsekwencji głębokich szaf, szczególnie rozprzestrzeniania się dezinformacji, co było głównym problemem dla 68% respondentów. Zatrzymanie to było szczególnie silne wśród starszych pokoleń, gdzie do 82% osób w wieku 55 lat i starszych wyraziło obawy dotyczące fałszywych informacji.
Dlaczego małe modele AI nie mogą nadążyć za dużymi
Mniej niż jedna trzecia ankietowanych (29%) wskazała, że nie podjęliby żadnych działań po spotkaniu z podejrzeniem. Brak zaangażowania jest częściowo spowodowany 48% respondentów, którzy stwierdzili, że nie wie, jak zgłaszać głębokie szafki, podczas gdy jedna czwarta przyznała się do podejrzanych o głębokie szafki. Tylko 11% krytycznie analizuje źródła i kontekst w celu ustalenia autentyczności informacji, tworząc krajobraz, w którym wiele osób pozostaje bardzo podatnych na oszustwo.
Profesor Edgar Whitley, ekspert ds. Tożsamości cyfrowej, ostrzegł, że organizacje nie mogą polegać wyłącznie na ludzkim osądu w celu wykrywania głębokich szaf i muszą zbadać alternatywne metody uwierzytelniania użytkownika.
Rosnące rozpowszechnienie głębokich szaf stanowi znaczące wyzwania w cyfrowym krajobrazie. Raport inteligencji zagrożenia IProov 2024 wykazał oszałamiający wzrost wymiany twarzy o 704%, podkreślając ich rolę narzędzi dla cyberprzestępców szukających nieautoryzowanego dostępu do poufnych danych. Ten trend podkreśla pilną potrzebę zwiększonej świadomości i rozwiązań technologicznych w celu udaremnienia zagrożeń związanych z głębokim fakerem.
Wyróżniony obraz obrazu: Kerem Gülen/Ideogram
