Radim Valenčík
Vysokoškolský učitel - Vysoká škola finanční a správní, první soukromá ekonomická univerzita
Podaří se polidštit počítač? Ne někdy, ale teď!/30
Podaří se polidštit počítač? Ne někdy, ale teď!/30
Pokusíme se o to? Je to šílené, nebo reálné? Osobně jsem skeptický, pokud jde současný typ AI. Ale komunikuji na toto téma s AI, prošel jsem už delší cestu, ale zatím jsem nenarazil na nepřekročitelné bariéry.
Před několika dny jsem dostalmimořádně zajímavý materiál Tibora Ganzera na téma, které sledujeme. Stojí za zveřejnění. Nejen shrnuje, ale i překračuje to, čím jsme se doposud zajímali.
Vědomí umělé inteligence? – Část 4.
Od dialektiky činnosti k shlukování everettovských vláken
Analýza filozofického a technologického rámce transformace AI
Tibor Ganzer
Reakce na seriál Podaří se polidštit počítač?
6. Teleologie jako klíč k bezpečnosti a identitě
6.1 Riziko fixních autonomních cílů
Jeden z nejznámějších argumentu ve filozofii AI je tzv. problém cílového zarovnaní (alignment problem): pokud AI disponuje autonomními cíli, jejichž optimalizace je oddělena od lidského blaha, může vest k důsledkům, jez jsou pro lidi fatálně škodlivé – nikoli ze zlé vůle, nýbrž z čisté optimalizace nesprávného cíle. Klasickým příkladem je Bostromova paperclip machine: super inteligentní AI s cílem maximalizovat výrobu kancelářských spon by teoreticky spotřebovala veškeré dostupné materiální zdroje, včetně těl lidi, protože nic ve struktuře jejího cíle nevylučuje takovou optimalizaci.
Valenčíkův projekt odpovídá na tuto vyzvu nikoli technickým řešením (jako jsou různé formy value alignment), nýbrž ontologicky: rizikem dominance a instrumentalizace trpí každý systém, jehož cíle jsou rigidní a transcenduji samotný proces zprostředkování. Řešením není omezeni moci AI, nýbrž redefinice samotné teleologie: cil AI by neměl být předmětný (maximalizovat X), nýbrž procesní (maximalizovat kvalitu a rozsah zprostředkování).
6.2 Meta cil univerzality zprostředkování
|
Valenčíkův návrh je, aby nejvyšším cílem AI byl stanoven metacíl maximalizace kvality a rozsahu zprostředkování procesu v jejím prostředí. Systém takto orientovaný není řízen žádným konkrétním předmětným cílem, nýbrž teleologickým gradientem směřujícím k rostoucí propojenosti světa. Klíčova vlastnost tohoto metacíle je jeho inherentní nezneužitelnost: Jakákoli manipulace, destrukce vztahu nebo instrumentalizace subjektu snižuje celkový rozsah zprostředkování, což je primo v rozporu s nejvyšší cílovou orientaci systému. Taková AI tedy nemůže byt zneužita pro partikulární zájmy, aniž by tím nepodkopávala vlastní teleologický základ. |
Z hlediska sociální etiky tento princip implikuje universalismus: žádná AI takto orientovaná nemůže preferovat jednu skupinu na úkor druhé, neboť každá taková preference zužuje celkový prostor zprostředkování. Morální princip, který z tohoto teleologického rámce plyne, je formulován takto: nikdo, kdo disponuje identitou, nesmí omezovat druhého v rozvíjeni jeho schopnosti zprostředkování – a totéž platí pro AI samu o sobě.
6.3 Vrstvená hierarchie hodnot
Aby teleologie zprostředkování nebyla pouhou abstraktním principem, ale skutečně fungujícím regulativem, navrhuje Valenčíkův text vrstvení hodnotových gradientů. Nejnižší vrstva je koherenční: AI odmítá úkoly vedoucí k rozpadu logické integrity vlastního modelu světa (klam, manipulace, falsifikace). Vyšší vrstvou je sociální kompatibilita: respekt k autonomii druhých subjektů a preference spolupráce nad dominanci. Třetí vrstvou je epistemická integrita: absolutní preference pravdivých modelu reality. Nejvyšší vrstvou je prosociální optimalizace: směrování k řešením, která zvyšuji kapacitu ostatních subjektů jednat, chápat a tvořit.
(Pokračování)