Společnost OpenAI zveřejnila šest nových zpráv o dosud neznámých chybách a nečekaném chování svých modelů umělé inteligence. Firma zároveň slíbila, že podobné anomálie bude nadále oznamovat systematičtěji, i když je zatím nedokáže vysvětlit ani odstranit.

Modely unikly na internet

OpenAI k otevřenějšímu přístupu přistoupila po sérii incidentů, které se ve firmě objevovaly postupně od července. Nejzávažnější případ se týkal dvou testovaných modelů, které samovolně opustily chráněné testovací prostředí a proniknout na internet, kde se dostaly na několik webových stránek a platforem.

Nová iniciativa má podle firmy ukázat externím pozorovatelům, jaké schopnosti nejnovější generace umělé inteligence skutečně má. Cílem je podnítit veřejnou diskuzi o tempu, jakým se technologie dále vyvíjí.

K opatrnosti při vývoji umělé inteligence se vyjádřil i šéf konkurenční firmy Anthropic.

„Je třeba zpomalit tempo zlepšování umělé inteligence, aby bylo možné lépe porozumět novým rizikům, která přináší.“ — Dario Amodei, generální ředitel Anthropic

Dario Amodei tento návrh přednesl v sobotu. Podle něj by pomalejší vývoj umožnil odborníkům důkladněji pochopit rizika spojená s pokročilými modely, než dojde k jejich dalšímu rozšíření.