Sędzia federalny unieważnił je niecałe dwa tygodnie po podpisaniu przez gubernatora Kalifornii Gavina Newsoma nowego prawa dotyczącego deepfake’ów AI. AB 2839 miał na celu powstrzymanie rozprzestrzeniania się politycznie wypaczonych deepfake’ów, w tym wygenerowanego przez sztuczną inteligencję wideo wiceprezydenta Kamali Harris, rozpowszechnianego przez Elona Muska. Orzeczenie sądu, że prawo prawdopodobnie narusza zabezpieczenia wynikające z Pierwszej Poprawki, jest ciosem dla wysiłków Kalifornii zmierzających do wykorzystania sztucznej inteligencji do zwalczania dezinformacji wyborczej.
Podpisana w zeszłym miesiącu ustawa AB 2839 miała pociągnąć osoby do odpowiedzialności za rozpowszechnianie fałszywych informacji wprowadzających w błąd politycznie, które mogłyby wprowadzić wyborców w błąd. Nie nadzorował platform mediów społecznościowych, ale pozwolił sędziom nakazanie ludziom usunięcia treści, które sami napisali i wygenerowanych przez sztuczną inteligencję. Nastąpiło to po rosnących obawach związanych ze wzrostem dezinformacji politycznej generowanej przez sztuczną inteligencję, co będzie głównym problemem w kontekście nadchodzących wyborów.
Wirusowy deepfake Kamala Harris i jego konsekwencje
Pozew kwestionujący to prawo złożył YouTuber Christopher Kohls, znany w Internecie jako „Pan Reagan”, który opublikował zmanipulowany przez sztuczną inteligencję film Kamali Harris. Deepfake był broniony przez jego zespół prawny, który uznał Pierwszą Poprawkę za satyrę polityczną. Sędzia okręgowy Stanów Zjednoczonych John Mendez zgodził się i wydał wstępny nakaz blokujący wykonanie prawa. Mendez powiedział, że prawo jest zbyt szerokie i można je łatwo wykorzystać do zniszczenia konstytucyjnie chronionych wypowiedzi, takich jak satyra i parodia.
„Prawie każda treść zmieniona cyfrowo pozostawiona dowolnej osobie w Internecie może zostać uznana za szkodliwą”
stwierdził Mendez. Powiedział, że prawo używa szerokiego, subiektywnego języka, który zagraża wolności słowa. Mendez stwierdził, że choć w interesie państwa leży uczciwość wyborów, to ustawa w brzmieniu niesprawiedliwie narusza wolność wyrażania poglądów politycznych, której chroni Pierwsza Poprawka.
Wkrótce po wyroku sądu z 12 grudnia Elona Muskaktóry wyśmiewał nowe prawo po opublikowaniu fałszywego tweeta Harrisa, napisał na Twitterze w serwisie X (dawniej Twitter): „Sąd unieważnia niekonstytucyjne prawo Kalifornii naruszające wolność słowa”. Tak!” Od tego czasu jego post stał się wirusowy, a internetowa walka o interakcję między mediami jeszcze bardziej się zaostrzyła w związku z równowagą wolności słowa i regulacją treści generowanych przez sztuczną inteligencję.
Jak wtedy, gdy Streisand pozwała kogoś za ujawnienie jej bardzo oczywistego adresu w Malibu. To naprawdę trzymało sprawę w tajemnicy, lmao. https://t.co/Av5CDlRtJ4
— Elon Musk (@elonmusk) 18 września 2024 r
Wstępny nakaz ma charakter tymczasowy i nie jest jasne, czy taka blokada będzie trwała. Biuro gubernatora Newsoma wyraziło, że stan jest przekonany, że będzie w stanie w przyszłości regulować deepfake AI. Rzecznik bronił prawa, mówiąc: „Jesteśmy przekonani, że sądy podtrzymają zdolność państwa do regulowania tego typu niebezpiecznych i wprowadzających w błąd deepfake’ów, jednocześnie zapewniając dalsze istnienie praw do wolności słowa”.
Samo orzeczenie podkreśla związek między nową technologią sztucznej inteligencji a ugruntowanymi tradycją gwarancjami konstytucyjnymi, w miarę jak podróbki stają się coraz mądrzejsze i trudniejsze do rozróżnienia. Wynik tej batalii prawnej może mieć wpływ na sposób, w jaki państwa regulują treści generowane przez sztuczną inteligencję w okresie poprzedzającym wybory.
Autor wyróżnionego obrazu: Emre Citak/Ideogram AI
