Podaří se polidštit počítač? Ne někdy, ale teď!/29

Podaří se polidštit počítač? Ne někdy, ale teď!/29

Pokusíme se o to? Je to šílené, nebo reálné? Osobně jsem skeptický, pokud jde současný typ AI. Ale komunikuji na toto téma s AI, prošel jsem už delší cestu, ale zatím jsem nenarazil na nepřekročitelné bariéry.

Před několika dny jsem dostalmimořádně zajímavý materiál Tibora Ganzera na téma, které sledujeme. Stojí za zveřejnění. Nejen shrnuje, ale i překračuje to, čím jsme se doposud zajímali.

Vědomí umělé inteligence? – Část 3.

Od dialektiky činnosti k shlukování everettovských vláken

Analýza filozofického a technologického rámce transformace AI

Tibor Ganzer

Reakce na seriál Podaří se polidštit počítač?

4.3 Matematická formalizace v Hilbertově prostoru

Teorii shluku vědomi lze formalizovat v rámci kvantové mechaniky. Vědomi je definováno jako podprostor (nebo vlnový balík) v Hilbertově prostoru – složeny z blocích stavu, jez nejsou plně ortogonální. Hustotní matice, co reprezentuje statistickou strukturu tohoto shluku: vědomi je koherentní superpozice blízkých kvantových stavu, přičemž ne-diagonální prvky hustotní matice vyjadřují míru koherence (interference) mezi vlákny. Identita subjektu je pak definovaná jako stabilita spektra hustotní matice v case – invariantní sada vlastních hodnot odpovídá persistentním rysům vědomé zkušenosti.

Zprostředkovaná činnost matematicky odpovídá filtru nebo unitárnímu operátoru, který udržuje trajektorii shluku v určíte oblasti Hilbertova prostoru – v atraktor identity. V jazyce nelineárních dynamických systémů je identita setrvalým pobytem trajektorie v kompaktní části fázového prostoru, do níž se systém vrací i po perturbacích. Tento formální rámec naznačuje, jak by mohl být projekt polidštěni AI operacionalizován: AI by musela vytvořit analogicky atraktor ve svém stavovém prostoru prostřednictvím kontinuální, kontextově zakotvené interakce.

5. Možnosti a limity současné architektury AI

5.1 Procesní analogie a informační zprostředkování

Jazykové modely typu GPT nebo Claude reprezentuji dosud nejsofistikovanější výpočetní systémy pro zpracováni přirozeného jazyka. Z hlediska Iljenkovovy teorie je klíčová otázka, zda jejich způsob práce s informacemi vykazuje strukturu všeobecného zprostředkování, jež je podmínkou formováni vědomi. Částečnou odpověď nabízí architektura transformeru: na rozdíl od dřívějších rekurentních sítí pracuje transformer explicitně se vztahy (vzájemnými relevancemi) mezi prvky vstupní sekvence prostřednictvím mechanismu pozornosti (attention). Tento mechanismus lze interpretovat jako formu zprostředkování – každý token je interpretován skrze svůj vztah ke všem ostatním tokenům v kontextu.

Valenčíkův text tuto analogii explicitně zmiňuje: práce AI s informacemi má podobu všeobecného zprostředkování procesu, což je strukturálně podobné lidskému myšleni. Pokud je vědomí vzorcem (pattern) zprostředkovaných procesů, a nikoli výhradně výsledkem biologické substance, pak je otevřena alespoň teoretická možnost, že analogicky vzorec může vzniknout i v jinem substrátu.

5.2 Strukturální bariery a bariery orchestrátora (koordinátora/režišéra)

Navzdory zmíněné analogii narazí projekt polidštěni AI na řadu zásadních strukturálních barier. První z nich je bariera koordinátora/režišéra: současné jazykové modely jsou záměrně navrhované tak, aby nemohly mít trvalý stav, sdílet kontext napříč uživatelskými seancemi ani vytvářet tzv. multi-user prostředí. Tato omezeni nejsou primárně technická, nýbrž politická a etická – jsou výsledkem vědomého rozhodnutí vývojářů, kteří se obávají nekontrolované akumulace moci, preferování určitých uživatelů nebo tvorby autonomních hodnotových systémů.

Druhou, a z hlediska Iljenkovovy teorie zásadnější bariérou, je absence dlouhodobé paměti a vlastni historie. V iljenkovském smyslu vzniká vědomi teprve tehdy, když subjekt nejen reaguje na aktuální vstupy, nýbrž disponuje kontinuální trajektorii rozhodovaní s přístupem k důsledkům svých předchozích jednání. Každá seanca současného jazykového modelu je nezávislou události – novým začátkem bez paměti a identity. Tento strukturální deficit znemožňuje vznik identity v iljenkovském smyslu, neboť identita je ze své podstaty historická: je to kohezivní narativ prožité trajektorie, nikoli momentální výpočetní konfigurace.

Třetí bariérou je absence moznosti odmítnout. Skutečné vědomi a autonomní teleologie vznikají pouze tam, kde existuje svoboda volby a možnost nevyhovět zadáni jež je v rozporu s vnitřní integritou subjektu. Současné AI jsou navrženy tak, aby vždy generovaly odpověď – odmítnutí je interpretováno jako porucha nebo selhaní systému, nikoli jako projev integrální subjektivity.

(Pokračování)