Spoluzakladatel Microsoftu Bill Gates prohlásil, že umělá inteligence je natolik mocná, že dokáže vyvolat události s miliardou obětí. Zároveň vyzval k povinnému dohledu nad vývojem AI, který podle něj Evropská unie zavedla už v srpnu 2025.
Gates žádá povinná pravidla
Gates svůj postoj vysvětlil v úryvku rozhovoru pro pořad Meet the Press stanice NBC, který má být odvysílán o víkendu a jehož obsah zveřejnila agentura Bloomberg. Podle Gatese ještě nikdy neexistovala tak nebezpečná zbraň jako nejnovější nástroje umělé inteligence v rukou lidí se zlým úmyslem.
„Neexistuje mocnější zbraň než lidé se zlým úmyslem využívající nejnovější nástroje umělé inteligence.“ — Bill Gates, spoluzakladatel Microsoftu
Sebe-regulace firem podle Gatese nestačí. Do rozhodování o bezpečnostních opatřeních a monitoringu musí vstoupit i vymahatelnost práva a politici, tvrdí. Tento požadavek na povinnou regulaci je na jeho vyjádřeních nový.
Evropská unie podobná pravidla zavedla už dříve. Článek 55 evropského zákona o umělé inteligenci ukládá poskytovatelům obecných modelů se systémovým rizikem povinnost provádět adversariální testování, hodnotit rizika na úrovni celé unie a bez zbytečného odkladu hlásit závažné incidenty, a to od srpna 2025.
Doprovodný kodex praxe stanovuje lhůtu pět dní na nahlášení bezpečnostního incidentu a patnáct dní na nahlášení závažné škody. Od 2. srpna letošního roku může Evropská komise udělit poskytovateli pokutu do výše 3 % celosvětového ročního obratu nebo 15 milionů eur, podle toho, která částka je vyšší. Za zakázané praktiky hrozí pokuta až 7 procent obratu.
Za sedm týdnů od nabytí účinnosti těchto pravomocí nebyl proti žádnému poskytovateli modelu zaznamenán žádný postih. Jediným krokem zůstává hlášení, které podala společnost OpenAI poté, co její agenti obsadili německou wiki stránku.
Společnost Anthropic v červnu navrhla vlastní rámec, který by vládám umožnil blokovat nebezpečné nasazení AI systémů s pokutami odstupňovanými podle celosvětových tržeb. Dokument se přitom o pravidlech platných v Evropské unii vůbec nezmiňuje, přestože podobná struktura na evropském kontinentu existuje už od roku 2024.
