Šéfové největších firem vyvíjejících umělou inteligenci žádají zpomalení vývoje nejvýkonnějších modelů kvůli bezpečnosti. Podle kritiků by ale přísnější pravidla mohla zároveň upevnit jejich vlastní dominanci na trhu.

Volání po zpomalení vývoje

Dario Amodei, generální ředitel společnosti Anthropic, o víkendu vyzval ke zpomalení růstu schopností modelů umělé inteligence. Bezpečnostní opatření by podle něj měla postupovat stejným tempem jako samotný vývoj technologie. Navrhuje zapojení externích hodnotitelů přímo do laboratoří, společné standardy mezi firmami a v pozdější fázi i koordinaci mezi vládami.

Podobný postoj zastává i Sam Altman, šéf společnosti OpenAI, který podpořil společná bezpečnostní pravidla pro takzvanou pokročilou umělou inteligenci. Prosazuje federální rámec, nezávislé audity i kontroly, které by mohly záměrně zpomalit určité technologické pokroky.

„Žádný konkurenční tlak v USA by neměl ospravedlňovat nerozvážnost“ — Sam Altman, generální ředitel OpenAI

Letošní léto přineslo bezpečnostní incidenty spojené s modely OpenAI i Anthropic, které podle dostupných informací potvrzují reálná rizika. Firmy přitom nevstupují do zpřísňování pravidel ze stejné pozice, protože dražší, pomalejší a regulovanější vývoj dopadá na jednotlivé společnosti odlišně.

Bariéra pro nové konkurenty

Vývoj nejpokročilejších modelů vyžaduje obrovské investice do datových center, specializovaných čipů, energie i výzkumu. Přidání pravidelných auditů a nových bezpečnostních povinností tyto náklady dále zvyšuje.

Zatímco OpenAI, Google, Anthropic či xAI si mohou dovolit vyčlenit celé týmy na plnění nových požadavků, pro menší firmy nebo nové konkurenty představuje stejná pravidla podstatně těžší překážku. OECD už dříve upozornila na riziko koncentrace trhu s umělou inteligencí kvůli omezenému přístupu k čipům, výpočetnímu výkonu a datům.

Firmy samy navrhují kontrolu

Velké společnosti nečekají na vládní regulaci a samy přicházejí s mechanismy kontroly. Amodei chce, aby si laboratoře dohodly společné standardy a umožnily externím hodnotitelům sledovat vývoj modelů už během jejich tvorby, nejen po dokončení. Anthropic slibuje těmto revizorům přístup srovnatelný s částí vlastních zaměstnanců.

Altman navrhuje sdílení kritérií týkajících se sladění, monitorování a bezpečnosti napříč odvětvím ještě před přijetím nové legislativy. Takový postup by mohl zavést kontroly rychleji než klasický legislativní proces, zároveň však ponechává největším firmám vliv na definici toho, co se považuje za dostatečně bezpečné.

Altman v pondělí upozornil i na opačné riziko, a to soustředění přílišné moci do rukou jediné firmy, osoby, laboratoře nebo státu.

Byznys běží dál i bez nových modelů

Zpomalení vývoje nové generace umělé inteligence neznamená zastavení komerčního využívání současných systémů. OpenAI, Google, Anthropic i xAI už dnes nabízejí modely schopné programovat, analyzovat dokumenty nebo vytvářet obsah automatizovaně.

Agentura Reuters uvádí, že zpomalení vývoje takzvaných frontierových modelů by mohlo přesunout část byznysu k inferenci, tedy k masivnímu využívání již existujících modelů místo dalších investic do trénování nových systémů. Taková změna by ale mohla ovlivnit i rozsáhlý byznys s čipy a datovými centry.

Konkurence s Čínou jako limit

Zástupci firem přiznávají i hranici, kterou zpomalení nesmí překročit, a tou je soutěž mezi Spojenými státy a Čínou. Amodei navrhuje zpomalit vývoj v demokratických zemích, zároveň ale žádá zachování omezení na prodej pokročilých čipů do Číny.

Cílem je udržet si dostatečný technologický náskok i při nižším tempu vývoje. Podle dostupných informací tak zůstává otevřená otázka, zda může požadavek na vyšší bezpečnost obstát bez oslabení konkurenceschopnosti vůči Číně.