Inicjatywa badawcza prowadzona przez firmę Microsoft, znana jako Projekt parafrazywykazało, że sztuczną inteligencję można wykorzystać do przeprojektowania toksyn biologicznych w sposób pozwalający na ominięcie obecnego oprogramowania do kontroli bezpieczeństwa biologicznego. Projekt szczegółowo opisano w artykule opublikowanym w czasopiśmie Naukazidentyfikował „biologiczną lukę dnia zerowego” – nieznaną wcześniej lukę w zabezpieczeniach – i opracował zabezpieczenie przed nią, stosując zasady cyberbezpieczeństwa. Początkowa obawa, którą zgłosił Eric Horvitz z Microsoftu, dotyczyła tego, że narzędzia sztucznej inteligencji typu open source można teoretycznie wykorzystać do przeprojektowania toksyn, które byłyby niewidoczne dla istniejących systemów bezpieczeństwa biologicznego.
Jak działa biologia syntetyczna i jej zabezpieczenia
Dziedzina biologii syntetycznej umożliwia naukowcom zamawianie drukowanych na zamówienie nici DNA od firm zajmujących się syntezą. Zanim firma wyśle materiał genetyczny, sprawdza żądaną sekwencję DNA w oprogramowaniu do kontroli bezpieczeństwa biologicznego. To oprogramowanie porównuje sekwencję z regulowanymi bazami danych znanych zagrożeń, takich jak toksyny lub patogeny, aby zapobiec niewłaściwemu użyciu. Międzynarodowe konsorcjum syntezy genów (IGSC) pomaga w tworzeniu tych baz danych. Jednak w miarę jak narzędzia sztucznej inteligencji stają się coraz potężniejsze, wzrasta ryzyko, że ktoś może zaprojektować nowe białko, które wygląda nieszkodliwie dla oprogramowania, ale po utworzeniu zachowuje się jak toksyna.
Testowanie systemu biologicznym dniem zerowym
Aby zbadać to ryzyko, Horvitz nawiązał współpracę ze starszym specjalistą ds. zastosowań w firmie Microsoft, Brucem Wittmannem. Wykorzystali model sztucznej inteligencji o nazwie EvoDiff do wygenerowania tysięcy syntetycznych wariantów silnej toksyny, rycyny. Celem nie było uczynienie toksyny bardziej niebezpieczną, ale sprawdzenie ograniczeń obecnych systemów badań przesiewowych. Proces ten przypominał parafrazowanie zdania: znaczenie (funkcja białka i miejsca aktywne) pozostaje takie samo, ale zmieniają się słowa (sekwencja aminokwasów). Kiedy te przeformułowane sekwencje przetestowano w systemach przesiewowych dwóch wiodących firm zajmujących się syntezą DNA, Twist Bioscience i Integrated DNA Technologies, przeszły one niewykryte.
„Nie sądzę, że byliśmy zaskoczeni, że pomysł od razu się udał. Wszystko, co można wykorzystać w dobrym celu, może zostać wykorzystane w złym celu. Jednak dostarczenie rozwiązania pomaga uniknąć odruchowej reakcji, która uniemożliwia wykorzystanie tych narzędzi w dobrym celu”.
Wittmann powiedział blogowi Microsoft Research.
Opracowanie obrony z wykorzystaniem ram cyberbezpieczeństwa
Po udowodnieniu luki zespół pracował nad rozwiązaniem. Jake Beal, naukowiec w RTX BBN Technologies, otrzymał zadanie opracowania cyfrowych zabezpieczeń, które mogłyby wychwytywać te przeformułowane toksyny. W projekcie przyjęto ramy z podręcznika dotyczącego cyberbezpieczeństwa, traktując podatność biologiczną jak zagrożenie dnia zerowego oprogramowania i organizując reakcję na wzór zespołu reagowania na incydenty komputerowe (CERT). Rozwiązaniem było opracowanie zaktualizowanych algorytmów wykrywania. Kluczową zmianą było wyjście poza zwykłe sprawdzanie, jak wygląda sekwencja DNA, i skierowanie się w stronę głębszego, semantycznego zrozumienia tego, co faktycznie robi białko, które koduje. Dzięki szkoleniu systemów przesiewowych w zakresie rozpoznawania cech funkcjonalnych zagrożenia udało się wykryć warianty generowane przez sztuczną inteligencję.
Droga do przodu i odpowiedzialne ujawnianie informacji
W ramach projektu pomyślnie zademonstrowano zarówno istnienie luki, jak i realną ścieżkę jej załatania. Rezultatem była ulga dla zaangażowanych firm zajmujących się syntezą DNA.
„Opinia publiczna chce mieć pewność, że firmy korzystające z tych niesamowitych technologii do tworzenia nowych produktów i usług są bezpieczne, skuteczne i mają na uwadze ich dobro. Najważniejszym elementem tego jest upewnienie się, że jesteś odpowiedzialnym zarządcą rozwijanej technologii”.
powiedział James Diggans, wiceprezes ds. polityki i bezpieczeństwa biologicznego w Twist Bioscience. W ramach projektu Paraphrase ustanowiono protokół dla narzędzi bezpieczeństwa biologicznego typu red-team i zarządzano globalną reakcją na zagrożenie bezpieczeństwa biologicznego oparte na sztucznej inteligencji. Służy także jako model publikowania wrażliwych badań w sposób równoważący otwartość i ostrożność. Naukowcy nie mają wątpliwości, że to dopiero początek. Wraz z postępem technologii środki ochronne muszą ewoluować wraz z nią. Projekt podkreśla potrzebę ciągłego, adaptacyjnego podejścia do bezpieczeństwa biologicznego.
„Chodzi o to, co robi sekwencja, a nie tylko o to, jak wygląda. Nawet jeśli dwie sekwencje wyglądają inaczej, nadal mogą powodować to samo – na przykład powodować chorobę lub wykonywać tę samą pracę w celi”.
powiedział Horvitz.
