Šéf společnosti OpenAI Sam Altman oznámil, že firma letos nevstoupí na burzu, důvodem jsou rostoucí obavy o bezpečnost umělé inteligence. Ve stejný den zveřejnil šéf konkurenční Anthropic Dario Amodei esej, v níž vyzval firmy k záměrnému zpomalení vývoje nejvyspělejších modelů AI.

Plán na zpomalení vývoje

Altman v rozhovoru pro Fortune uvedl, že vstup na burzu by nyní byl „unáhlený“. Rozhoduje tím posunout jedno z nejočekávanějších IPO v historii nejméně na rok 2027, přestože finanční ředitelka OpenAI Sarah Friarová ještě minulý měsíc mluvila o roce 2027 nebo dříve.

Amodei ve svém textu navrhl třífázový plán, jehož cílem je zpomalit tempo vývoje bez „obětování obchodní výhody či vedoucí pozice Spojených států v AI“. Altman a Elon Musk plán rychle podpořili na sociálních sítích, což představuje neobvyklou shodu mezi třemi konkurenty.

„Pokud půjdeme příliš pomalu, věřím, že technologii budou ovládat špatní lidé, a to výrazně zvýší pravděpodobnost, že se něco pokazí.“ — Dario Amodei, generální ředitel Anthropic

Anthropic se podle Amodeiho jednostranně zavázal k první fázi plánu, která poskytuje nezávislým hodnotitelům přístup na úrovni zaměstnanců k ověřování bezpečnostních postupů. Druhý krok počítá s koordinací standardů mezi firmami v demokratických zemích, třetí pak s dohodou mezi demokratickými a autoritářskými vládami.

Esej reagovala na dění z předchozího týdne, kdy z Anthropic odešel výzkumník Jacob Coxon, který dříve pracoval i pro OpenAI. Svůj odchod zdůvodnil obavou, že obě firmy „hazardují s našimi životy“, protože tvůrci AI podle něj věří, že technologie by mohla do konce dekády zabít všechny lidi.

Podpora napříč konkurencí

Altman v příspěvku na síti X uvedl, že s Amodeiho návrhem souhlasí a že téma tempa vývoje je v OpenAI v posledních týdnech „hlavním bodem“ diskusí. Podle svých slov firma zváží zavedení podobného nezávislého dohledu.

Podporu vyjádřil i Elon Musk, jehož startup xAI byl letos akvirován jeho raketovou společností SpaceX. Musk dříve Anthropic veřejně kritizoval, po uzavření obchodu na výpočetní kapacitu mezi Anthropic a SpaceX v květnu ale svůj postoj změnil.

Tlak na regulaci AI roste i ve Washingtonu, kde zákonodárci obou stran žádají nová bezpečnostní opatření po sérii kybernetických útoků provedených bez přímé lidské kontroly. Vedoucí vědec OpenAI Jakub Pachocki dříve varoval, že žádná firma dosud dostatečně nevyřešila otázku sladění a kontroly modelů pro bezpečné pokračování v maximálním tempu vývoje.