Meta opracowuje narzędzie internetowe umożliwiające identyfikację obrazów i filmów wygenerowanych za pomocą modelu Muse Image. Jak wynika z wpisu na blogu firmy, narzędzie potrafi wykryć niewidoczne znaki wodne, tzw. Content Seal, które pozostają nienaruszone po przycięciu, zmianie rozmiaru lub wykonaniu zrzutu ekranu.
System znaków wodnych Content Seal jest zastrzeżony i stanowi zmianę w stosunku do poprzednich wersji tej technologii o otwartym kodzie źródłowym firmy Meta. Meta stwierdziła, że w przeciwieństwie do wcześniejszych modeli, w których zastosowano widoczne znaki wodne, obecne modele nie mają logo. Możliwości wykrywania skupiają się wyłącznie na obrazach utworzonych lub edytowanych przy użyciu Muse Image, choć firma planuje w przyszłości rozszerzyć system znaków wodnych na filmy generowane i edytowane przez sztuczną inteligencję.
Testy narzędzia do wykrywania wykazały, że może ono skutecznie identyfikować znaki wodne zarówno na edytowanych obrazach, jak i tych utworzonych w całości przez sztuczną inteligencję. Według Meta pozytywny wynik wykrycia wskazuje, że obraz został przetworzony przy użyciu Meta AI lub meta.ai. Z drugiej strony wynik negatywny sugeruje, że jest mało prawdopodobne, aby obraz został utworzony przy użyciu narzędzi Meta.
Pomimo tych możliwości wykrywania, funkcja ta nie jest jeszcze zintegrowana z samą aplikacją Meta AI. Zapytanie skierowane do asystenta opartego na aplikacji Meta ujawniło, że nie ma on możliwości potwierdzenia źródła wygenerowania obrazu, stwierdzając: „Nie mogę jednoznacznie stwierdzić, czy ten konkretny obraz został wykonany przy użyciu Meta AI, po prostu na niego patrząc”. Asystent zauważył, że aplikacja nie dodaje automatycznie znaku wodnego do obrazów.
Meta została poddana kontroli w związku ze stosowanymi przez nią praktykami oznaczania treści opartych na sztucznej inteligencji. Rada Nadzorcza wyraziła obawy dotyczące niespójności we wdrażaniu cyfrowych znaków wodnych w treściach generowanych przez sztuczną inteligencję. System Content Seal jest niekompatybilny z innymi uznanymi metodami znakowania wodnego, takimi jak SynthID lub C2PA Content Credentials.
Podczas testów pojawiły się dalsze ograniczenia narzędzia do wykrywania, które nie pozwalały na identyfikację obrazów utworzonych za pomocą starszych wersji sztucznej inteligencji Meta. Użytkownicy doświadczyli również ograniczeń stawek, otrzymując powiadomienia po osiągnięciu dziennego maksimum w celu kontroli identyfikacyjnych.
Meta opracowuje także osobny model generowania wideo o nazwie Muse Video, który ma zostać wkrótce wprowadzony na rynek. Obecnie funkcja wykrywania pozostaje niedostępna za pośrednictwem aplikacji Meta AI.
