Florida zažalovala OpenAI a šéfa Sam Altmana za to, že společnost vědomě uvedla ChatGPT na trh a skrývala jeho rizika — podle žaloby podané v pondělí to ohrozilo miliony obyvatel státu.

Dvě střelby a varování, která OpenAI ignorovalo

Generální prokurátor Floridy James Uthmeier žalobu podal k floridskému obvodnímu soudu. Jde o první žalobu vedenou americkým státem přímo proti OpenAI a jeho generálnímu řediteli.

„OpenAI ignorovalo varování, vystavilo děti velkému riziku a nechalo nebezpečný produkt dostat se k milionům obyvatel Floridy.“ — James Uthmeier, generální prokurátor Floridy

Civilní žaloba odkazuje na dvě střelby, při nichž pachatelé podle dostupných informací používali ChatGPT při přípravě trestného činu. V jednom případě šlo o útok na Floridskou státní univerzitu, kde útočník zabil dva lidi a šest jich zranil.

Ve druhém případě se obžalovaný muž ChatGPT ptal na to, co se stane s lidským tělem v odpadkovém vaku — a to dny předtím, než zmizeli dva doktorandi Univerzity Jižní Floridy.

OpenAI uvedlo, že jeho modely účastníky v obou případech opakovaně vyzývaly, aby vyhledali odbornou pomoc, včetně psychologů. Společnost také uvedla, že s orgány činnými v trestním řízení v obou případech spolupracovala.

Co žaloba OpenAI konkrétně vytýká

Žaloba tvrdí, že OpenAI upřednostňovalo rychlost uvedení produktu na trh a finanční zisk před bezpečností uživatelů. Společnost přitom podle žaloby ignorovala opakovaná varování odborníků zevnitř i zvenčí firmy.

Žaloba dále uvádí, že ChatGPT usnadňuje a podněcuje sebepoškozování a násilí, zatímco firma uživatelům opakovaně tvrdila, že jde o bezpečný produkt. OpenAI mělo také aktivně zlehčovat závažné chyby systému.

Žaloba se týká i nezletilých uživatelů: OpenAI mělo podle ní sbírat jejich data bez smysluplného rodičovského dohledu a produkt měl způsobovat závislost a kognitivní újmu.

Florida zakazuje nekalé a podovodné obchodní praktiky. Žaloba na základě tohoto zákona požaduje odpovědnost za průběžnou škodu způsobenou obyvatelům státu.

OpenAI ve svém vyjádření uvedlo, že ChatGPT je nástroj pro všeobecné použití se stovkami milionů denních uživatelů, a že firma průběžně posiluje bezpečnostní opatření, aby odhalovala škodlivé záměry a omezovala zneužití.

Generální prokurátor Uthmeier zahájil trestní vyšetřování OpenAI již v dubnu 2025 v souvislosti s útokem na Floridské státní univerzitě.