Anthropic, společnost vyvíjející model umělé inteligence Claude, aktualizovala pravidla používání. Od 12. listopadu zakáže opakované kruté zacházení s modelem a upřesní omezení pro klamavé kampaně, zbraně a sledování osob.

Kdy Claude ukončí konverzaci

Podle Anthropicu a serveru The Verge se nová pravidla zaměřují na extrémní situace, kdy se uživatel opakovaně a bez zjevného účelu chová krutě. Zlobit se na Claude, kritizovat jeho odpovědi nebo psát temné příběhy zůstává dovoleno.

Opatření navazuje na dříve oznámenou funkci. Claude může v aplikacích Claude.ai a Claude Code ukončit vybrané rozhovory s uživateli, kteří se chovají trvale zneužívajícím způsobem.

Ukončení konverzace zůstane hlavním nástrojem prosazování pravidel. Zda společnost použije i jiné sankce, Anthropic nepotvrdil.

Omezení pro kampaně, zbraně a sledování

Claude nesmí sloužit k zakrývání toho, kdo za zprávou stojí, ke správě sítí falešných účtů ani k šíření umělých příspěvků, které mají manipulovat veřejné mínění.

V oblasti voleb pravidla zakazují klamat voliče nepravdivými informacemi o kandidátech či způsobu hlasování, vydávat se za volební činitele a snažit se snížit volební účast.

Zákaz vývoje zbraní se vztahuje také na software a součásti nutné k jejich fungování, včetně naváděcích a řídicích systémů. Claude nesmí pomáhat ani s vyzbrojováním dronů nebo jiných autonomních vozidel.

V oblasti sledování je zakázáno bez souhlasu stopovat osoby a využívat umělou inteligenci k rozhodování, koho vyšetřovat, zadržet nebo obvinit. Politika omezuje i tvorbu a vylepšování nástrojů ke sledování.

Při nasazení Claudea v rizikových oblastech, jako jsou zdravotnictví a finance, musí zasahovat kvalifikovaná osoba a dotčení lidé musí být o použití umělé inteligence informováni. Pokud Claude řídí autonomní fyzická zařízení schopná způsobit zranění, operátor je musí umět dohlížet a zastavit.