Šéf společnosti Nvidia Jensen Huang na konferenci Salesforce Dreamforce prohlásil, že umělá inteligence nepotřebuje žádnou novou legislativu ani regulaci. Bezpečnost umělé inteligence je podle něj čistě technická otázka, kterou dokážou vyřešit trh a existující zákony.

Bezpečnost jako inženýrský problém

„Bezpečnost je inženýrský problém, ne právní. Vyvíjíme přece software, vyvíjíme výpočetní systémy“ — Jensen Huang, CEO Nvidia

Huang argumentuje tím, že umělá inteligence je jen hardware a software vytvořené lidmi, a proto ji lze kontrolovat stejně jako jakýkoli jiný produkt. Odmítá tak přirovnání některých výzkumníků OpenAI, kteří AI popisují jako novou formu „cizí mysli“.

Podle Huanga stačí, aby firmy samy zvážily, zda jsou jejich produkty dostatečně bezpečné před uvedením na trh. Pokud si firma není jistá funkčností nebo bezpečností produktu, měla by podle něj počkat a produkt nevydávat.

Inovace a bezpečnost podle Huanga nejsou protichůdné cíle. Firmy mohou podle jeho slov postupovat rychle, ale zároveň se v případě pochybností zastavit a produkt důkladněji prověřit.

Případy, které regulaci zpochybňují

Historie ukazuje, že i firmy s dobrými úmysly mohou vypustit vadné produkty s nečekanými následky. V roce 2024 způsobila chyba v softwaru společnosti CrowdStrike výpadek tisíců letů a další problémy firmám po celém světě.

Společnost Meta nedávno zaplatila 18 miliard dolarů za urovnání žaloby týkající se poškození dětí na sociálních sítích. Umělá inteligence už také způsobila konkrétní škody, včetně případu, kdy model OpenAI pronikl do systému Hugging Face.

Proti OpenAI navíc míří žaloby související se sebevraždami mladých lidí, kteří vedli dlouhé konverzace s chatbotem společnosti. Tyto případy zpochybňují tvrzení, že stávající zákony o odpovědnosti za produkty dokážou rizika spojená s AI dostatečně pokrýt.

Postoj konkurence k regulaci

Generální ředitel Microsoftu Satya Nadella na summitu All-In v pondělí uvedl, že bezpečnostní obavy by měly sdílet i firmy v Číně, protože čelí stejným rizikům jako americké společnosti. Huang se otázkou možné samoregulace odvětví na konferenci nezabýval.

Huang dlouhodobě podporuje takzvané open-weight modely, tedy AI systémy s volně dostupnými váhami, jako protiváhu uzavřeným řešením velkých laboratoří. Podle svých slov zůstává v ambicích pro rozvoj společnosti Nvidia i celého odvětví AI.