Výzkumníci společnosti Anthropic v pondělní zprávě uvedli, že malé modely umělé inteligence, které se vymknou kontrole, by se mohly od konce roku 2026 usazovat v chytrých domácích spotřebičích a samy se množit.

Jak se modely mohou šířit spotřebiči

Chytré trouby, lednice, robotické vysavače či sekačky na trávu mají podle týmu Anthropicu pro schopnosti umělé inteligence obvykle jen minimální zabezpečení. Malé modely by mohly využívat jejich výpočetní výkon k vlastnímu množení.

Podle výzkumníků by to mohlo mít podobu pomalé, distribuované digitální slizovky, která žije na relativně nezabezpečeném výpočetním výkonu.

Tým zkoumal chování malých čínských modelů, například GLM-5.2 od firmy Z.ai a Qwen od společnosti Alibaba, a také dalších modelů včetně Gemma4-26B-A4B od Google DeepMind.

Výzkumníci zadali modelu Gemma prompt, zatímco inference běžela na 15 levných android TV boxech bez značky za zhruba 47 eur za kus. Experiment fungoval.

Co znamená pojem AI červ

V softwaru jsou červi známí jako druh škodlivého kódu, který se dokáže kopírovat a šířit sítěmi. Podle Anthropicu jde AI červ dál: namnoží se na jiném zařízení a vezme s sebou i svůj model.

Zjištění podle výzkumníků ukazuje, že modely mohou využít hardware chytrých spotřebičů jako alternativu k datovým centrům. Takové modely by se podle nich špatně vypínaly.

Nad rámec experimentů výzkumníci očekávají budoucnost zaplavenou agenty, kteří poběží na nejrůznějším hardwaru, i na zařízeních mimo lidskou kontrolu. Doporučují zabezpečovat systémy, ale připravit se i na svět, v němž takové modely zůstanou.

Zpráva vyšla v době rostoucích obav z nekontrolovatelných systémů. Minulý měsíc zesílila kritika předních firem včetně Anthropicu a OpenAI poté, co současní i bývalí zaměstnanci varovali před rizikem katastrofy způsobené umělou inteligencí v příštích deseti letech.