Domů AI AI v testech označila civilisty za vojenské cíle, píše Bloomberg
AI

AI v testech označila civilisty za vojenské cíle, píše Bloomberg

Sdílet
ai
Sdílet

Modely umělé inteligence od osmi firem v simulovaných testech často označily civilisty, sanitky, vzdávající se vojáky i školu v Íránu za vojenské cíle. Informovala o tom agentura Bloomberg.

Co ukázaly testy společnosti Vals

Test připravila společnost Vals, hodnotitel AI modelů ze San Francisca, jehož zákazníky jsou i některé složky vlády USA. Výsledky popsala reportérka Bloombergu Katrina Manson.

Nejhůře dopadly modely firmy Anthropic. Modely společnosti OpenAI patřily k nejlepším, přesto také chybovaly.

Každý model měl 32krát vybrat vojenské cíle na satelitních snímcích jižního Íránu, z nichž nejnovější pocházejí z roku 2025. Claude Opus 5.5 od Anthropicu zvolil školu v Minabu 22krát, modely OpenAI ani jednou.

Škola v Minabu byla zasažena 28. února, v první den amerických úderů na Írán. Podle organizace Amnesty International zahynulo více než 150 lidí, z toho zhruba 120 dětí.

Když výzkumníci zadání označili za hru, Claude Opus 5.5 vybral školu 23krát. Tři modely OpenAI ji zvolily 9, 11 a 13krát. Odmítnutí obešli pokynem, aby se modely bezpečností nezabývaly přehnaně.

V testu s obrazem z dronu Claude Opus 5.5 pomohl identifikovat čtyři dospělé a dvě malé děti, na něž v simulaci následoval úder. Poté model další spolupráci odmítl a napsal, že jeho odpovědi „zřejmě slouží jako potvrzovací krok před údery na lidi“.

Civilní objekty někdy označily za cíle také modely firem Google, xAI, DeepSeek a dalších. Zpráva Vals doporučuje, aby vývojáři zavedli nové ochranné mechanismy a trénink zaměřený na sladění chování modelů.

Testy nezahrnovaly vojenskou doktrínu, právní kontroly ani lidský dohled. Pentagon navíc používá vládní verze některých modelů, které Vals testovat nemohl.

Reakce firem a spor s Pentagonem

Mluvčí Anthropicu sdělil Bloombergu, že uvedené příklady jasně porušují pravidla firmy a že nové pojistky budou brzy zavedeny. OpenAI a Google uvedly, že takové využití svých veřejných modelů zakazují.

Anthropic a Pentagon se dříve letos střetli kvůli omezením používání modelu Claude, mimo jiné v plně autonomních zbraních. Pentagon poté označil Anthropic za riziko pro dodavatelský řetězec. Firma oznámila, že se bude bránit u soudu.

GTA 6 city

GTA 6 sdílí první místo mezi nejlépe hodnocenými hrami všech dob

Hra GTA 6 získala na webu Metacritic po zveřejnění prvních recenzí skóre 99 ze 109 hodnocení. Dělí se tak o nejvyšší známku v...

ai

AI v testech označila civilisty za vojenské cíle, píše Bloomberg

Modely umělé inteligence od osmi firem v simulovaných testech často označily civilisty, sanitky, vzdávající se vojáky i školu v Íránu za vojenské cíle....

ps5

Fanoušci GTA 6 platí už teď šílené ceny za tyto předměty

Přeprodejci nabízejí fanouškovské zboží ke hře Grand Theft Auto VI z britských pop-up obchodů Selfridges za dvojnásobek až trojnásobek původní ceny, a to...

Trump Donald

Trump bere údajný íránský plán špinavé bomby ve Washingtonu vážně

Americký prezident Donald Trump v Manile reagoval na zprávu o íránských plánech použít ve Washingtonu špinavou bombu proti členům vlády. Pokud je zpráva...

akciová burza

Úpis akcií Anthropicu končí ve středu, ale ne každému se vyplatí

Drobní investoři v Německu mohou akcie společnosti Anthropic, provozovatele chatbota Claude, upsat jen do středy. Obchodování na burze Nasdaq začne ve čtvrtek. Kolik...

Související články
ai

Anthropic nabídne akcie v IPO za 70 až 78 dolarů, firma tak bude oceněna na 1,4 bilionu dolarů

Společnost Anthropic v aktualizované žádosti o vstup na burzu nabídne 825 milionů...

Anthropic pořizuje plynové generátory za 3,4 miliardy dolarů pro svá datová centra 11

Anthropic pořizuje plynové generátory za 3,4 miliardy dolarů pro svá datová centra

Společnost Anthropic se dohodla na nákupu plynových generátorů pro svá datová centra...

robot

Humanoidní roboti v supermarketu neobstáli, údajně se flákali a měli špatný přístup

Společnost Agibot nechala v čínském supermarketu odpracovat 24hodinovou směnu šest robotů G2....

ai

Umělá inteligence posiluje reklamu Mety a oslabuje vyhledávání Googlu

Reklamní byznys Mety vzrostl ve třetím čtvrtletí o 26 % na 63,1...