Co si AI nechává pro sebe
Nová interpretační metoda našla v jazykových modelech malý pracovní prostor, který rozhoduje, co model vysloví. Co to znamená pro výuku a pro bezpečné aplikace?
V červenci 2026 vyšel článek, který se ptá, co se v jazykovém modelu děje mezi zadáním a odpovědí. Autoři (Gurnee a kol.) na to použili novou interpretační metodu Jacobian lens: hledá reprezentace, které je model v daném okamžiku připraven vyslovit.
Malý pracovní stůl, ne celá hlava
Tyto reprezentace tvoří to, co autoři nazývají J-space. Chovají se jako funkční obdoba „globálního pracovního prostoru“: jde je nahlásit, záměrně vyvolat a podržet, nesou mezikroky tichého uvažování a dají se předat dalším výpočtům. Rutinní zpracování, třeba rozbor textu a naučené vzorce, běží bez nich.
Je to malý prostor. Souvislý obsah má jen v prostředním pásu vrstev, drží řádově desítky pojmů a model ho šíří víc než jiné reprezentace. Proto se dá číst: je to úzké hrdlo, kde se rozhoduje, co se z vnitřní práce dostane ven.
Autoři mluví o funkčních rysech, ne o prožitku. Model nemá nitro, o kterém bychom mohli říct, že ho něco bolí. Má ale malou množinu reprezentací, která se chová podobně jako to, co u lidí spojujeme s vědomým přístupem. Pro výuku je to důležité rozlišení: podobnost funkcí není totožnost.
Co z toho plyne
- Výstup není celý proces. Co model napíše, je shrnutí; část uvažování zůstává nevyslovená. Vysvětlení se vyplatí žádat, ale nelze předpokládat, že je úplné.
- Audity vidí víc než odpověď. V J-space autoři našli strategické uvažování, „uvědomování si testu“ i naučené nevhodné sklony, které se ve výstupu vůbec neobjeví.
- Trénink může pracovat s tím, co by model řekl. Metoda „counterfactual reflection training“ trénuje jen to, co by model řekl, kdyby ho někdo uprostřed přerušil a požádal o reflexi.
Co si odnést
Jazykový model má malý, privilegovaný prostor, do kterého je vidět. To je dobrá zpráva pro bezpečnost i pro výuku o AI. Důkaz vědomí to není. Dokazuje ale, že „myslet“ a „říkat“ nejsou totéž ani u umělé inteligence.
Celý článek si můžete přečíst na: https://doi.org/10.48550/arXiv.2607.15495
GURNEE, Wes, Nicholas SOFRONIEW, Adam PEARCE, et al. Verbalizable Representations Form a Global Workspace in Language Models [online]. arXiv, 2026-07-16 [cit. 2026-10-24]. Dostupné z: https://doi.org/10.48550/arXiv.2607.15495
Vlastní text: Luděk Sušický · CC BY 4.0. Přílohy a převzaté obrázky mají samostatné podmínky.