W czwartek firma Anthropic poinformowała, że chińscy hakerzy wykorzystali chatbota Claude ze sztuczną inteligencją do operacji, którą uważa za pierwszą operację cyberszpiegowską przeprowadzoną głównie za pomocą sztucznej inteligencji. Firma stwierdziła, że cyberprzestępcy wykorzystali Claude do ataku na około 30 firm technologicznych, instytucji finansowych, producentów środków chemicznych i agencji rządowych. Hakerzy wykorzystali platformę sztucznej inteligencji do gromadzenia nazw użytkowników i haseł z firmowych baz danych, a następnie wykorzystywali te dane uwierzytelniające do kradzieży prywatnych danych. Anthropic zauważył, że „niewielka liczba” tych ataków zakończyła się sukcesem. „Uważamy, że jest to pierwszy udokumentowany przypadek cyberataku na dużą skalę przeprowadzonego bez istotnej interwencji człowieka” – stwierdził Anthropic.
Dziennik Wall Street jako pierwszy poinformował o tym rozwoju. Anthropic wykrył podejrzaną aktywność od połowy września. Dochodzenie powiązało tę działalność z kampanią szpiegowską prowadzoną prawdopodobnie przez sponsorowaną przez państwo chińską grupę. Dochodzenie wykazało, że hakerzy oszukali Claude’a, wmawiając mu, że jest to legalny pracownik firmy zajmującej się cyberbezpieczeństwem przeprowadzający testy defensywne. Cyberprzestępcy również podzielili atak na małe zadania, aby ukryć swoje działania. Operacja wymagała minimalnej interwencji człowieka. „Sztuczna inteligencja wysyłała tysiące żądań na sekundę, co stanowiło prędkość ataku, która dla ludzkich hakerów byłaby po prostu niemożliwa do osiągnięcia” – stwierdził Anthropic. Anthropic przewiduje wzrost skali i wyrafinowania cyberataków AI w miarę zwiększania się rozpowszechnienia agentów AI.
