OpenAI spouští ChatGPT pro teenagery s novými bezpečnostními prvky
Po sérii žalob souvisejících se sebevraždami a psychickými problémy mladistvých uživatelů spustila společnost OpenAI novou verzi ChatGPT určenou přímo pro teenagery. Produkt má omezit rizikový obsah a zároveň řešit rozšířené podvádění při školních úkolech.
Nový režim pro studium
ChatGPT pro teenagery přináší funkci Study Mode, která místo hotových odpovědí nabízí naváděcí otázky a postupnou podporu při řešení úkolů. Cílem je, aby si uživatel látku skutečně osvojil, místo aby jen opsal výsledek.
Pokud aplikace rozpozná, že se teenager snaží o zadání úkolu spíše podvádět než mu porozumět, zobrazí mu připomínku domácího úkolu a nabídne přepnutí do režimu Study Mode. Systém dále podporuje kvízy a vizualizace, které mají usnadnit pochopení probírané látky.
O tom, kdy bude Study Mode aktivní jako výchozí nastavení, budou moci rozhodovat rodiče nebo zákonní zástupci prostřednictvím rodičovské kontroly. Zůstává otázkou, nakolik snadno dokážou teenageři tato nová omezení obejít, protože podobné zábrany v minulosti dokázali často obcházet.
Bezpečnostní opatření od spuštění chybí roky
ChatGPT byl poprvé spuštěn na konci roku 2022 a od té doby vyrostl na 900 milionů týdenních uživatelů, aniž by obsahoval specifická ochranná opatření pro nezletilé. Nová verze tak přichází až po několika letech provozu bez cílené ochrany této skupiny.
Podle OpenAI budou opatření vhodná pro daný věk v ChatGPT pro teenagery zapnutá automaticky a mají omezit vystavení škodlivému nebo nevhodnému obsahu. Firma uvádí, že vychází z takzvaných Under-18 Principles zakotvených v dokumentu Model Spec, který má být postavený na poznatcích z vývojové psychologie.
Rodiče budou moci využívat dříve zavedené rodinné nástroje, dostávat bezpečnostní upozornění a nastavovat takzvané Quiet Hours, tedy období omezeného přístupu k aplikaci. OpenAI zároveň oznámila spolupráci s organizací CodeAI, jejímž cílem je naučit teenagery, jak umělá inteligence funguje a jak s ní pracovat. Firma dříve představila také ChatGPT pro učitele, který školám nabízí spravovaný přístup k umělé inteligenci.
