Reddit zaostrza proces weryfikacji, aby powstrzymać ludzkie boty AI, dyrektor generalny firmy Steve Huffman ogłoszony w poniedziałek. Ten ruch nastąpi po zespole badaczy wydany Rój botów napędzanych AI w subreddicie „Zmień My View”, publikując ponad 1700 komentarzy i przyjmując różne osoby.
Eksperyment, który Reddit potępił jako „niewłaściwe i wysoce nieetyczne”, podkreślił potencjalne ryzyko botów napędzanych AI podszywającym wniosek ludzi na platformie. Aby to złagodzić, Reddit rozpocznie współpracę z usługami zewnętrznymi w celu weryfikacji ludzkości użytkowników, wymagając od niektórych użytkowników dostarczania informacji w celu potwierdzenia, że są ludźmi, a w niektórych przypadkach dorosłych.
Huffman podkreślił, że Reddit nie będzie wymagał od użytkowników ujawnienia swoich nazwisk lub tożsamości, stwierdzając, że „anonimowość jest niezbędna dla Reddit”. Firma planuje korzystać z firm zewnętrznych w celu dostarczenia „niezbędnych informacji i nic innego” i zapewniła, że będzie nadal chronić dane osobowe użytkowników i odpychać nadmierne wymagania ze strony władz.
Decyzja jest prawdopodobnie częściowo spowodowana zmieniającymi się wymogami regulacyjnymi, w tym przepisami uchwalonymi w co najmniej dziewięciu stanach i Wielkiej Brytanii nakazującej weryfikację wieku w celu ochrony dzieci na platformach mediów społecznościowych. Reddit podejmuje już środki w celu zakazania „złych” botów, ale nowy proces weryfikacji prawdopodobnie zostanie wykorzystany do dalszego ochrony platformy.
Dokładne okoliczności, w których użytkownicy będą musieli poddać się weryfikacji, są niejasne, podobnie jak określone usługi stron trzecich, które zostaną wykorzystane. Popularne platformy weryfikacyjne obejmują osobowość, stop, tożsamość paska, kratę i ślad, które zazwyczaj wymagają od rządu identyfikatorów weryfikacji wieku i ludzkości. Można również wziąć pod uwagę nowsze technologie, takie jak urządzenie „Proof of Human” Sama Altmana.
Krytycy wzbudzili obawy dotyczące potencjalnego prywatności danych i zagrożeń bezpieczeństwa związanych z kontroli tożsamości, szczególnie na platformie takiej jak Reddit, w której użytkownicy często dzielą się wrażliwymi lub osobistymi doświadczeniami. Huffman przyznał te obawy, stwierdzając, że Reddit będzie „niezwykle ochronny dla twoich danych osobowych”.
