Domů AI Co se stane, když slepě věříme zprávám z umělé inteligence
AI

Co se stane, když slepě věříme zprávám z umělé inteligence

Sdílet
ai robot
ilustrační foto
Sdílet

Kdo se spoléhá na AI při ověřování zpráv, ztrácí časem vlastní schopnost odhalit lži a dezinformace.  Ukázala to nová studie MIT Media Lab.

Jak probíhal výzkum

Výzkumníci sledovali 67 účastníků po dobu čtyř týdnů, kdy vyhodnocovali dvojice novinových titulků a obrázků. Když měli k dispozici AI chatbota, byli o 21 procent přesnější v odhalování falešných zpráv než bez něj.

Ve čtvrtém týdnu se ale objevil zásadní zvrat. Bez pomoci AI klesla přesnost účastníků při hodnocení nových zpráv o 15 procentních bodů oproti stavu před začátkem experimentu. Přibližně čtvrtina účastníků si přitom paradoxně myslela, že se v rozpoznávání dezinformací zlepšuje.

„Uživatele tyto ‚magické‘ jazykové modely nadchnou, ale zapomínají, že jde jen o statistické modely predikující další slovo v pořadí“ — Anku Rani, doktorandka MIT

Vznik závislosti na technologii

Kvalitativní analýza odhalila, že přibližně pětina účastníků se postupně proměnila v takzvané „rozvíjející se závislé“, kteří přešli od aktivního samostatného úsudku k pasivnímu přijímání doporučení od AI. Jeden z respondentů v dotazníku po experimentu tuto změnu sám potvrdil.

Podobný jev, označovaný jako paradox závislosti na AI, se objevil i v jiných oblastech.

Studie z roku 2025 zjistila, že lékaři používající AI se zhoršili v samostatném rozpoznávání rakoviny. Výzkumníci jev přirovnávají k dlouhodobě známým trendům, kdy kalkulačky oslabily matematické dovednosti a GPS navigace přirozený smysl pro orientaci.

Rozdíl mezi koučem a berličkou

Podle autorů studie záleží na způsobu, jakým AI s uživatelem komunikuje. Rozlišují mezi přístupem, který jen pomáhá v danou chvíli, a přístupem, který podporuje skutečné učení a rozvoj dovedností.

Efektivnější se ukázala takzvaná sokratovská metoda, kdy AI klade naváděcí otázky místo přímých odpovědí. Podle spoluautora Valdemara Danryho modely poskytující přímé odpovědi spíše podporují závislost, zatímco kladení otázek učí uživatele rozeznávat pravdu samostatně.

Senior autorka studie Pattie Maes, profesorka médií a věd, upozorňuje na nutnost vzdělávání ve školách o slabinách AI jako učebního nástroje. Pokud lidé své myšlení delegují na stroje, nezlepší se ve schopnosti řešit problémy samostatně.

Výzkum, prezentovaný na konferenci CHI 2026, měl omezení v podobě malého vzorku zhruba 50 ověřených zpráv a zaměření pouze na účastníky z USA a Velké Británie. Tým plánuje podobné experimenty s geograficky rozmanitějšími skupinami respondentů.

Norris si podle expertů zaslouží plat na úrovni Hamiltona a Verstappena 5

Norris si podle expertů zaslouží plat na úrovni Hamiltona a Verstappena

Lando Norris prodloužil smlouvu s týmem McLaren do konce sezony 2030 a nový kontrakt mu podle deníku The Telegraph přinese odhadem 30 milionů...

F1 Ferrari

Ferrari představuje klíčové vylepšení pro Velkou cenu Itálie

Ferrari přiveze na Velkou cenu Itálie vylepšenou motorovou jednotku, kterou chce zmenšit ztrátu na čelo pole. Tým v posledních týdnech klesl na třetí...

policie zabavuje motocykl

Zákaz řízení, drogy a rychlost 200 km/h: Ujíždějící motorkář přišel o stroj

Motocyklista na silnici I/380 mezi Hodonínem a Mutěnicemi ujížděl hlídce dopravní policie rychlostí téměř 200 kilometrů v hodině. Muž skončil bez motocyklu, o...

policie Zásahová jednotka

Konec velkovýroby metamfetaminu: Policie obvinila 7 lidí, hrozí jim až 18 let

Kriminalisté libereckého TOXI týmu rozbili organizovanou skupinu, která vyráběla a distribuovala metamfetamin v Libereckém kraji i v Praze. Policie zadržela sedm osob včetně...

Klimatizace zachraňuje životy, ale zhoršuje klimatickou krizi 10

Klimatizace zachraňuje životy, ale zhoršuje klimatickou krizi

Klimatizace ročně zachrání v USA více než 5 000 životů, zároveň ale zvyšuje zátěž elektrické sítě a přispívá k oteplování planety. Podle nové...

Související články
AI text kódu

Výzkumník ovládl Claude Code pomocí škodlivé webové stránky

Bezpečnostní výzkumník Johann Rehberger objevil způsob, jak přimět nástroj Claude Code od...

ai program

Nvidia rozšiřuje svou AI dominanci za hranice grafických čipů

Nvidia rozšiřuje svou pozici na trhu s umělou inteligencí i mimo výrobu...

Nvidia budova

Nvidia posiluje podporu čínských modelů otevřené umělé inteligence a varuje před zásahem Bílého domu

Společnost Nvidia rozšiřuje podporu čínských otevřených AI modelů, mezi nimi DeepSeek V4...

reklama v mobilu

OpenAI spouští reklamy v ChatGPT v 31 evropských zemích

Společnost OpenAI spustí reklamy v ChatGPT v 31 evropských zemích, včetně Česka,...