Domů AI Co se stane, když slepě věříme zprávám z umělé inteligence
AI

Co se stane, když slepě věříme zprávám z umělé inteligence

Sdílet
ai robot
ilustrační foto
Sdílet

Kdo se spoléhá na AI při ověřování zpráv, ztrácí časem vlastní schopnost odhalit lži a dezinformace.  Ukázala to nová studie MIT Media Lab.

Jak probíhal výzkum

Výzkumníci sledovali 67 účastníků po dobu čtyř týdnů, kdy vyhodnocovali dvojice novinových titulků a obrázků. Když měli k dispozici AI chatbota, byli o 21 procent přesnější v odhalování falešných zpráv než bez něj.

Ve čtvrtém týdnu se ale objevil zásadní zvrat. Bez pomoci AI klesla přesnost účastníků při hodnocení nových zpráv o 15 procentních bodů oproti stavu před začátkem experimentu. Přibližně čtvrtina účastníků si přitom paradoxně myslela, že se v rozpoznávání dezinformací zlepšuje.

„Uživatele tyto ‚magické‘ jazykové modely nadchnou, ale zapomínají, že jde jen o statistické modely predikující další slovo v pořadí“ — Anku Rani, doktorandka MIT

Vznik závislosti na technologii

Kvalitativní analýza odhalila, že přibližně pětina účastníků se postupně proměnila v takzvané „rozvíjející se závislé“, kteří přešli od aktivního samostatného úsudku k pasivnímu přijímání doporučení od AI. Jeden z respondentů v dotazníku po experimentu tuto změnu sám potvrdil.

Podobný jev, označovaný jako paradox závislosti na AI, se objevil i v jiných oblastech.

Studie z roku 2025 zjistila, že lékaři používající AI se zhoršili v samostatném rozpoznávání rakoviny. Výzkumníci jev přirovnávají k dlouhodobě známým trendům, kdy kalkulačky oslabily matematické dovednosti a GPS navigace přirozený smysl pro orientaci.

Rozdíl mezi koučem a berličkou

Podle autorů studie záleží na způsobu, jakým AI s uživatelem komunikuje. Rozlišují mezi přístupem, který jen pomáhá v danou chvíli, a přístupem, který podporuje skutečné učení a rozvoj dovedností.

Efektivnější se ukázala takzvaná sokratovská metoda, kdy AI klade naváděcí otázky místo přímých odpovědí. Podle spoluautora Valdemara Danryho modely poskytující přímé odpovědi spíše podporují závislost, zatímco kladení otázek učí uživatele rozeznávat pravdu samostatně.

Senior autorka studie Pattie Maes, profesorka médií a věd, upozorňuje na nutnost vzdělávání ve školách o slabinách AI jako učebního nástroje. Pokud lidé své myšlení delegují na stroje, nezlepší se ve schopnosti řešit problémy samostatně.

Výzkum, prezentovaný na konferenci CHI 2026, měl omezení v podobě malého vzorku zhruba 50 ověřených zpráv a zaměření pouze na účastníky z USA a Velké Británie. Tým plánuje podobné experimenty s geograficky rozmanitějšími skupinami respondentů.

volvo

Akcie Volvo Cars se propadají o 24 procent, prodeje v Číně klesly rychleji, než firma čekala

Volvo Cars v pátek oznámilo, že zruší 2 500 pracovních míst po propadu prodeje v Číně. Akcie společnosti na konci obchodování klesly o...

francie vlajka

Francie v sobotu nasadí 70 tisíc policistů proti hrozbě nepokojů

Francie nasadí v sobotu přibližně 70 000 policistů, aby zabránila dalším nepokojům po násilnostech, které minulý víkend propukly na okraji protestů proti rostoucím...

kreml

Kreml potvrdil jednání Ruska s Ukrajinou v Abú Dhabí za zprostředkování USA

Rusko a Ukrajina obnoví přímá jednání za zprostředkování Spojených států v Abú Zabí. Podle Kremlu se uskuteční v první polovině listopadu 2026. Co...

airbnb

Airbnb mění pravidla odjezdu a hosty už nenutí mýt nádobí ani vynášet odpadky

Airbnb upravila pravidla pro hostitele. Majitelé ubytování nově nesmějí hostům ukládat časově náročný úklid. Změna se týká i Španělska a platí pro rezervace...

Podle OSN se Země do konce století oteplí o 2,6 °C 9

Podle OSN se Země do konce století oteplí o 2,6 °C

Globální emise skleníkových plynů zůstaly v roce 2025 na rekordní úrovni. Podle zprávy OSN se Země do roku 2100 oteplí o 2,6 °C,...

Související články
grok

Umělá inteligence ve SpaceX překonává očekávání

Společnost SpaceX vykázala za třetí čtvrtletí tržby 14,6 miliardy dolarů, přičemž 52...

ai

Experti hodnotí nový plán fondu společnosti Anthropic

Společnost Anthropic oznámila, že věnuje nejméně pět procent akcií neziskovému fondu. Reakce...

ai program

Umělá inteligence řeší matematické úlohy a známý profesor vidí konec romantické éry oboru

Profesor Terence Tao z Kalifornské univerzity v Los Angeles (UCLA) prohlásil, že...

Google vyhledávání

Google DeepMind zpřístupní své vědecké modely umělé inteligence 200 evropským výzkumníkům

Google DeepMind a Google Cloud nabídnou až 200 evropským vědcům přímý přístup...