Nástroj pro vývoj software Claude Code od společnosti Anthropic bude od 14. srpna automaticky spouštět takzvaný Auto Mode, který u Shell, Git a dalších nástrojů odstraňuje nutnost potvrzovat každý jednotlivý krok. Změna se týká nových relací u licencí Pro, Max a Team.

Jak funguje automatické schvalování

Auto Mode nenahrazuje jednotlivá potvrzení neomezeným přístupem. Každé volání nástroje posuzuje klasifikátor, který vyhodnocuje, zda je zásah potenciálně nevratný, destruktivní nebo míří mimo předpokládané prostředí. V nejistých případech krok zablokuje a buď hledá bezpečnější alternativu, nebo si vyžádá souhlas uživatele.

Pokud dojde ke třem blokacím po sobě nebo ke dvaceti blokacím během jedné relace, systém automaticky přepne zpět na manuální schvalování. Anthropic v oznámení výslovně doporučuje lidskou kontrolu u zásahů do produkční infrastruktury.

Důvodem je únava z potvrzování

Anthropic zdůvodňuje změnu takzvanou permission fatigue, tedy únavou uživatelů z potvrzování bezpečnostních dotazů. Podle firmy uživatelé automaticky odsouhlasí 97 procent žádostí nástroje, zatímco jen 3 procenta zamítnou. U plánovacích dialogů na vyšší úrovni přitom odmítají 39 procent návrhů.

V kontrolované studii Anthropicu rozpoznali lidé jen 13,6 procenta úmyslně vložených nebezpečných příkazů, zatímco Auto Mode jich zablokoval 89 procent. Analýza relací označených bezpečnostním systémem firmy dále ukázala, že relace s manuálním schvalováním obsahovaly škodlivou akci s produkčně relevantní závažností v 6,3 procenta případů, u Auto Mode šlo o 2,4 procenta.

Ochranné mechanismy a výjimky

Systém obsahuje takzvané hard denies, tedy kroky, které klasifikátor nikdy sám neschválí – patří mezi ně například kopírování zdrojového kódu na externí cíle. U akcí v Gitu bere klasifikátor v úvahu kontext včetně necommitnutých změn a u datových cílů ověřuje, zda je repozitář veřejný, soukromý nebo důvěryhodný. Součástí je také kontrola proti manipulovaným pokynům, takzvaný prompt-injection screening.

Podle Anthropicu dosahují uživatelé Auto Mode přibližně o 25 procent více splněných pull requestů, přičemž firma odkazuje na nasazení u zákazníků Adobe, Nuro, Gusto a Garner Health. Údaje o době zpracování, chybovosti nebo produkčních incidentech oznámení neobsahuje.

Náklady a další nasazení

Klasifikátor spotřebovává dodatečné tokeny, tyto náklady však Anthropic uživatelům tarifů Pro, Max a Team nebude účtovat. Zákazníkům Claude Enterprise, Claude API a Claude Code přes AWS, Amazon Bedrock, Google Cloud Agent Platform a Microsoft Foundry se zatím nic nemění, Anthropic je chce na Auto Mode přepnout v průběhu příštího měsíce.