Prospekt k první veřejné nabídce akcií společnosti Anthropic, zveřejněný v pondělí, věnuje více než 90 stran rizikům, od možných existenčních hrozeb pro lidstvo po pomalejší růst poptávky po umělé inteligenci.

Jaká rizika Anthropic uvádí

Anthropic, výrobce modelu Claude, v prospektu uvádí, že jeho modely mohou způsobit i „katastrofická či existenční rizika pro lidstvo„. Selhání v oblasti bezpečnosti by podle dokumentu mohlo nepříznivě ovlivnit značku, podnikání, finanční situaci i hospodářské výsledky firmy.

Bezpečný vývoj podle prospektu ztěžují silná konkurence, tlak trhu a očekávání zainteresovaných stran. Anthropic nemůže zaručit, že jeho opatření budou dostatečná, protože složitost technologie mu brání předvídat každý možný scénář.

Datová centra a energie

Rostoucí odpor veřejnosti vůči datovým centrům představuje pro Anthropic velké riziko, neboť firma k trénování a provozu modelů využívá stále větší počet výpočetních zařízení. Moratoria na jejich výstavbu zvažují zákonodárci v 16 státech USA, uvádí Národní konference státních zákonodárných sborů.

Podle prospektu je odpor proti výstavbě „organizovanější a koordinovanější napříč jurisdikcemi“ a veřejný profil firmy může na projekty s ní spojené poutat zvláštní pozornost.

Úspěch firmy závisí i na elektrické infrastruktuře. Nedostatek dostatečné elektrické energie ve Spojených státech i ve světě ohrožuje Anthropic a jeho konkurenty. Také výroba elektřiny ze zemního plynu přímo na místě by se při vysoké poptávce mohla prodražit.

Ochrana dětí

Konkurenční OpenAI a Meta čelí kritice zákonodárců a žalobců kvůli obviněním, že konstrukce jejich modelů a aplikací přispěla k poškozování dětí. Meta nedávno přistoupila na vyrovnání s několika státními generálními prokurátory za zhruba 17 miliard dolarů.

Anthropic se dosud kontrole většinou vyhnul, prospekt však připouští možné vlastní právní potíže. Podle podmínek služby nesmějí nezletilí Claude používat, firma ale uznává, že děti musí chránit i při rostoucím využívání modelů.

Riziko pomalejší poptávky

Za riziko firma označuje i příliš pomalý vývoj trhu. Pokud trh s jejími modely, platformou a aplikacemi poroste pomaleji, než Anthropic očekává, nebo poklesne, může její růst zpomalit či se zastavit.

Prospekt jmenuje také nižší poptávku po nejvýkonnějších modelech. Zákazníci mohou dojít k závěru, že jim stačí levnější modely, protože přírůstky výkonu na špičce neospravedlňují dodatečné náklady, a zvolit cenově výhodnější či open-source alternativy.