Na podstawie historii, którą czytamy TechWkrótcetrudno oprzeć się pokusie walenia pięścią w ściany w gniewie.
Rodzina Jennifer Ann Crecente, 18-latki zamordowanej prawie dwie dekady temu, niedawno odkryła, że jej zdjęcie zostało wykorzystane bez jej zgody przez platformę chatbota AI. Imię i zdjęcie Jennifer znaleziono w Character.ai, usłudze umożliwiającej użytkownikom interakcję z osobowościami generowanymi przez sztuczną inteligencję. Z rodziną nigdy nie konsultowano się ani nie informowano o wykorzystaniu tożsamości Jennifer, co spowodowało, że była przerażona i zdruzgotana tym rażącym nadużyciem.
Po odkryciu wujek Jennifer za pośrednictwem mediów społecznościowych ujawnił incydent i wydał mocne oświadczenie na swoim blogu: Padandpiksel.
To jest cholernie obrzydliwe: @character_ai używa mojej zamordowanej siostrzenicy jako twarzy sztucznej inteligencji w grach wideo bez zgody jej taty. Jest teraz bardzo zdenerwowany. Nie mogę sobie wyobrazić, przez co on przechodzi.
Prosimy, pomóż nam zatrzymać tego rodzaju okropne praktyki. https://t.co/y3gvAYyHVY
— Brian Crecente (@crecenteb) 2 października 2024 r
Dopiero po publicznym oburzeniu platforma usunęła bota.
Szok wywołany widokiem twarzy i imienia Jennifer użytej bez pozwolenia ponownie otworzył stare rany w rodzinie. Crecente opisała początkowy smutek po śmierci jako „doświadczenie niemal wyjścia z ciała”, dodała: „Poczułam, że moja dusza została wyrwana z ciała. Przez chwilę doświadczałem życia w oszołomieniu, jakbym nim był raczej oderwany od mojego ciałaz świat.” Chociaż rodzina niestrudzenie pracowała, aby uczcić pamięć Jennifer poprzez działalność non-profit i edukację, to nieuprawnione użycie jej tożsamości wydawało się okrutnym naruszeniem.
„Czuję się, jakby znowu ktoś ją nam skradziono” – napisała Crecente, podkreślając niszczycielski wpływ nieostrożnego wykorzystywania tożsamości przez sztuczną inteligencję. Pomimo wysiłków mających na celu usunięcie chatbota, szkody zostały wyrządzone. Crecente zadał palące pytanie: „Dlaczego to my musimy zachować odporność? Dlaczego wielomiliardowe firmy nie zadają sobie trudu stworzenia etycznych zasad przewodnich i funkcjonujących barier ochronnych, które zapobiegną takim wydarzeniom?”
Poważnie, dlaczego wielomiliardowe firmy nie zadają sobie trudu stworzenia etycznych, przewodnich zasad i funkcjonujących barier, aby zapobiec takim wydarzeniom?
Wiemy, że są źli ludzie. Ludzie są z natury skłonni do złych czynów. Ale ci, którzy sprawują władzę – zwłaszcza ci o ogromnym wpływie technologicznym – ponoszą również odpowiedzialność za wyznaczanie granic i tworzenie ram blokujących zło.
Odpowiedź leży na skrzyżowaniu postępu technologicznego, zachęt korporacyjnych i rażącego braku kompleksowych regulacji.
Kiedy firmy takie jak Character.ai posiadają zdolność do replikowania tożsamości ludzi – żywych lub zmarłych – mają etyczny obowiązek dopilnowania, aby ta moc nie została nadużywana.
Odpowiedź leży w przedstawieniu zysku nad ludźmi. W nieustannym wyścigu o innowacje firmy decydują się na szybkie działanie i wprowadzanie innowacji, nie upewniając się, że istnieją niezbędne bariery etyczne. To nie tak, że nie mogą stworzyć tych barier; po prostu nie widzą w tym bezpośredniej wartości finansowej.
Ten taka jest brutalna rzeczywistość: branże nastawione na zysk często postrzegają moralność jako opcjonalny wydatek, szczególnie w świecie technologii.
Rządy i organy regulacyjne nie nadążają za szybką ewolucją sztucznej inteligencji, pozostawiając ogromne luki w prawie. Istnieje niewiele, jeśli w ogóle, solidnych zabezpieczeń tożsamości zmarłego.
Mów teraz!
Media i grupy wsparcia muszą pociągnąć firmy technologiczne do odpowiedzialności za nieuprawnione wykorzystanie podobizny zmarłych osób. Presja społeczna ma kluczowe znaczenie dla zapewnienia wdrożenia przez platformy sztucznej inteligencji wytycznych etycznych i zapobiegania takim naruszeniom w przyszłości.
Należy wezwać prawodawców do uchwalenia przepisów, które wyraźnie chronią tożsamość zmarłych i zapewniają, że ich nazwiska, wizerunek i zapisy nie mogą zostać wykorzystane w celach zarobkowych. Potrzebujemy przepisów, które chronią godność rodzin długo po śmierci ich bliskich.
Musimy żądać, aby firmy ustanowiły i egzekwowały rygorystyczne wytyczne etyczne dotyczące wykorzystania sztucznej inteligencji. Obejmuje to protokoły zgody i przejrzysty proces zgłaszania naruszeń. Nie powinni czekać, aż rodziny odkryją te naruszenia po fakcie.
Media muszą w dalszym ciągu odgrywać kluczową rolę w prowadzeniu dochodzeń i ujawnianiu incydentów, w których platformy AI wykorzystują osoby bez ich zgody. Ich bezlitosne relacje sprawią, że te firmy staną się odpowiedzialne i będą nawoływać do zmian, zapewniając, że milczenie nie umożliwi takiego wyzysku.
Nie możemy stać bezczynnie i pozwalać, aby takie naruszenia miały nadal miejsce bez sprzeciwu.
#OdpowiedzialnaAI
Składamy nasze najgłębsze kondolencje rodzinie Crecente w tym rozdzierającym serce czasie. Nikt nie powinien nigdy musieć stawić czoła bólowi po stracie bliskiej osoby, nie mówiąc już o takim naruszeniu pamięci. Życie i dziedzictwo Jennifer zasługują na uhonorowanie i podzielamy Twój smutek, gdy stawiasz czoła temu niewyobrażalnemu ciężarowi.
Autor wyróżnionego obrazu: Padandpiksel