Rozpoznat, zda text, obrázek nebo zvuk vytvořil člověk, nebo umělá inteligence, je stále obtížnější. Evropská unie proto od 2. srpna vyžaduje, aby obsah vytvořený nebo upravený pomocí AI šlo jednoznačně identifikovat podle nařízení o umělé inteligenci.

Kdo se zapojil do kodexu

K dobrovolnému kodexu transparentnosti se přihlásily společnosti OpenAI, Anthropic, Google, Meta a Mistral. Samotné povinnosti transparentnosti podle nařízení o AI mají naproti tomu právně závazný charakter. Pozornost vzbuzuje, že mezi signatáři chybí xAI, firma se však připojila k jiným částem evropského rámce pro modely umělé inteligence.

Označení obsahu funguje pomocí dvou technických systémů. Prvním jsou metadata C2PA, která uchovávají informace o původu a provedených úpravách obsahu, druhým jsou digitální vodoznaky, tedy převážně nepozorovatelné signály umožňující zpětně zjistit, zda obsah prošel nástrojem AI.

Obrázky vytvořené pomocí ChatGPT, nástroje Codex a jejich rozhraní API obsahují metadata C2PA i vodoznak SynthID. Společnost Anthropic postupuje u modelu Claude podobně a k podporovanému obsahu přidává digitálně podepsaná metadata o původu.

„Signál slouží k tomu, aby bylo možné poznat, že obsah prošel nástrojem Claude“ — Anthropic

Značka se podle firmy může objevit i tehdy, když obsah nevznikl od základu pomocí AI. Pokud někdo použije Claude k opravě, shrnutí, překladu nebo úpravě textu, výsledek může nést stejné označení, aniž by šlo poznat, kdo je autorem původních myšlenek nebo dat.

Metadata i vodoznaky mají svá omezení a po určitých úpravách obsahu je lze těžko dohledat. Cílem Evropské unie nebylo vytvořit neodstranitelné označení, ale usnadnit zjištění původu obsahu a zabránit tomu, aby se materiál upravený umělou inteligencí vydával za dílo člověka.