Americká společnost Anthropic od 2. srpna značí text vygenerovaný chatbotem Claude skrytým statistickým vodoznakem. Vývojáři v reakci vytvořili nástroje, které dokážou takové označení z textu odstranit.

Jak vodoznak funguje

Vodoznak vzniká drobnými úpravami ve výběru slov, kdy model z několika stejně vhodných variant preferuje jednu z nich. Tento statistický vzor zůstává v textu i po zkopírování a podle firmy je pro čtenáře nerozpoznatelný.

„Jsem pro přiznání autorství obsahu… jsem ale proti technice vodoznaku, to je zásadní rozdíl.“ — Guillaume Meyer, zakladatel nástroje Memo

Pařížský podnikatel Meyer vydal pár dní po oznámení Anthropicu open-source projekt Watermarks Remover. Program odstraňuje skryté znaky a metadata a text přepíše tak, aby narušil vzor ve výběru slov.

První verzi nástroje sestavil za pět hodin. Od zveřejnění si vysloužila přes 14 tisíc hvězd na GitHubu, což ale nezaručuje, že vodoznak skutečně zmizí.

Další nástroje a rostoucí zájem

Podobný nástroj vytvořila AI lektorka Sabrina Ramonov, jejíž bezplatná webová aplikace čistí skryté značky z textu, PDF, dokumentů Wordu, webových stránek i obrázků. Podle ní vodoznaky postihují běžné uživatele, nikoliv ty, kdo je chtějí zneužít.

Tokijský vývojář Ansh Aneja spustil nástroj zaměřený na Claude v den oznámení a později vydal open-source verzi MarkScrub. Dřívější verze podle jeho neověřených čísel získala za jediný den 8 500 uživatelů.

Zájem o vyhledávání výrazu „AI watermark remover“ v USA mezitýdně vzrostl o 60 procent. Část předplatitelů Claude kvůli funkci zrušila předplatné, jiní si našli způsob, jak vodoznak obejít.

Anthropic obhajuje vodoznak

Anthropic tvrdí, že vodoznak nenese žádnou identifikující informaci a nelze jej vystopovat ke konkrétní osobě, organizaci ani konverzaci. Firma zdůrazňuje, že značení nesouvisí s vlastnictvím ani autorstvím textu a nemění práva uživatelů podle smluvních podmínek.

Anthropic přidal vodoznak, aby splnil závazky podle unijního zákona o umělé inteligenci, který vyžaduje strojově čitelné značení generovaného textu. Firma v červenci podepsala unijní kodex transparentnosti společně s přibližně 190 dalšími signatáři.

Právní nejasnosti kolem odstraňování

Unijní pravidla ukládají firmám vyvíjejícím AI povinnost značit obsah, výslovně ale nezakazují třetím stranám vodoznak odstraňovat, uvedl mluvčí Evropské komise. Podle odborníků z Maastrichtské univerzity a univerzity ve Strathclyde tak nástroje na odstraňování zůstávají v právně nejasné zóně.

Rizikem podle Anthropicu zůstává zneužití: firemní podmínky zakazují vydávat text vytvořený AI za lidský výtvor. Uživatel, který vodoznak odstraní za účelem takového zkreslení, tak může porušit smluvní pravidla společnosti.