Jak podaje platforma Instagram firmy Meta, automatycznie generuje nagłówki i opisy postów użytkowników tworzone przez sztuczną inteligencję bez ich zgody. 404 Mediów we wtorek. Elementy te pojawiają się w kodzie strony i pojawiają się tylko w wynikach wyszukiwania, aby poprawić rankingi Google dla treści na Instagramie. Redaktor Engadget zauważony to w swoich własnych postach. Wygenerowane nagłówki i opisy mają na celu optymalizację postów na Instagramie pod kątem lepszej widoczności w wyszukiwarkach. Pozostają ukryte przed użytkownikami w samej aplikacji Instagram. Zamiast tego osadzają się w podstawowej strukturze HTML postów, wpływając na sposób, w jaki zewnętrzne narzędzia wyszukiwania indeksują i wyświetlają treść. Praktyka ta działa bez powiadamiania osób przesyłających posty ani uzyskiwania zgody od nich. Sam Chapman, pracownik Engadget, podzielił się przykładem z własnego doświadczenia. Zamieścił post o Bloomhunter, zaprojektowanej przez siebie grze planszowej. Automatyczny system wygenerował opis stwierdzający: „Floramino to przytulna gra logiczna, w której aranżujesz ogrody jako podróżująca kwiaciarnia”. Kontynuowano: „Demo wygląda zabawnie, z uroczą grafiką i elementami strategicznymi”. Wynik ten zawierał wyraźną nieścisłość, gdyż Bloomhunter różni się od Floramino, które istnieje jako osobna gra logiczna dostępna na platformie Steam. Błędny opis fałszywie przedstawia twórczość Chapmana i może wprowadzić w błąd potencjalnych widzów poszukujących jego treści. 404 Media nagłośniły dodatkowe przypadki z udziałem osób publicznych i instytucji. Autor Jeff VanderMeer przesłał film bez tytułu, przedstawiający króliczka jedzącego banana. Tytuł wygenerowany przez sztuczną inteligencję brzmiał: „Poznaj króliczka, który uwielbia jeść banany – pożywną przekąskę dla Twojego zwierzaka”. To sformułowanie przyjmuje promocyjny, przyjazny dla wyszukiwarek styl, typowy dla treści zoptymalizowanych pod kątem zapytań związanych z opieką nad zwierzętami lub ich zachowaniami. Takie tytuły przekształcają przesłane materiały neutralne lub osobiste w ogólne, klikalne podsumowania, w których atrakcyjność algorytmiczna jest przedkładana nad pierwotne intencje. Biblioteka w Massachusetts promowała wydarzenie czytelnicze, podczas którego zaprezentowano książkę VanderMeera. Post otrzymał automatycznie wygenerowany nagłówek: „Dołącz do Jeffa VanderMeera podczas ekscytującej przygody na plaży z Mestą…” Wielokropek wskazuje, że tytuł się urywa, ale przedstawia wydarzenie w kategoriach przygód, które mogą nie pokrywać się z rzeczywistą książką lub spotkaniem. Ta zmiana skupia uwagę na emocjach, potencjalnie przyciągając niepowiązany ruch związany z wyszukiwaniem, zmieniając jednocześnie postrzegany temat postu. Cosplayerzy napotkali podobne problemy ze swoimi treściami. Wiele osób zgłosiło, że otrzymało tytuły, które wydawały się niedopasowane i sztucznie wyprodukowane. Cosplayer Brian Dang tak skomentował dla 404 Media: „Nie napisałbym takiego przeciętnego tekstu i brzmi to tak, jakby został wygenerowany automatycznie na dużą skalę za pomocą LLM”. Dodał: „To staje się problematyczne, gdy nagłówek lub opis reklamuje jakąś osobę w sposób odmienny od tego, jak ta osoba sama by siebie opisała”. Te niedopasowane portrety budzą obawy co do autentyczności, szczególnie w przypadku twórców, którzy polegają na kreowaniu marki osobistej w sztukach wizualnych, takich jak cosplay. Weryfikacja umiejscowienia nagłówków odbywała się za pomocą narzędzia Google do testowania wyników z elementami rozszerzonymi. Ujawniło tytuły w tagach tytułowych postów i opisy w sekcji „tekst” kodu. Elementy te działają niezależnie od funkcji tekstu alternatywnego na Instagramie, którą platforma generuje, aby pomóc użytkownikom niedowidzącym poprzez przystępne opisywanie obrazów. Dodatki skupiające się na SEO nakładają zatem na posty dodatkowe, niezamierzone ramy interpretacyjne. Użytkownicy mogą sprawdzić swoje najnowsze przesłane pliki, wyszukując je w zewnętrznych wyszukiwarkach w celu zidentyfikowania wygenerowanych elementów. Ten krok pozwala użytkownikom ocenić, czy ich treść uległa takim modyfikacjom bez ich wiedzy.
Engadget skontaktował się z Meta w celu uzyskania wyjaśnień. Firma wydała oświadczenie, w którym wyjaśniła, że „niedawno zaczęła wykorzystywać sztuczną inteligencję do generowania tytułów postów pojawiających się w wynikach wyszukiwania. Pomaga to ludziom lepiej zrozumieć udostępniane treści”. Meta zauważyła, że użytkownicy mają możliwość wyłączenia indeksowania na swoich kontach. Jednak ta czynność eliminuje całą widoczność w wyszukiwarkach, co zmniejsza szanse innych na odkrycie profilu lub jego postów. W oświadczeniu potwierdzono dalej: „Jak w przypadku wszystkich treści generowanych przez sztuczną inteligencję, tytuły te mogą nie zawsze być w 100% dokładne”.
