Vize, jakou potřebujeme/1337

14. srpen 2025 | 00.01 |

blog ›

Jak se rodí vize: Časopis !Argument/100

Článek Michala Ševčíka je přínosný ve dvou směrech: Zabývá se odlišností lidského myšlení od počítačového (proto záměrně používá místo označení AI pojmenování LLM), současně přispívá k pochopení některých problémů vzájemného sdílení poznatků a názorů mezi lidmi.

112. článek:Papoušek má pravdu, ale stejně nic nepochopil 6.8.2025 Michal Ševčík

Celé zde: https://casopisargument.cz/65314

Výrazně krátím, odlišuji barvou, doplním stručným komentářem:

Je pozoruhodné, s jakou lehkostí se v současnosti zaměňuje forma za podstatu. Zdá-li se nám věta smysluplná, pak v ní spatřujeme smysl. Je-li text stylisticky uhlazený, pak předpokládáme, že je i myšlenkově přesvědčivý. Právě na této klamné rovnici stojí velká část důvěry v jazykové modely tzv. umělé inteligence nebo výstižněji strojového učení (LLM – Large Language Models). Vidíme syntakticky správný výstup, a proto v něm tušíme inteligenci. Jenže v tom není nic než reflex zpětné projekce: do jazykového chování stroje vkládáme výsledky naše vlastního porozumění, nikoli že by ono porozumění bylo na jeho straně. Tento omyl je hluboký a filosoficky závažný. Pokud má totiž mít technologie nějaký normativní rámec, musíme si nejprve ujasnit, co vůbec znamená "rozumět". A právě zde se začíná rozpadat celý narativ o tom, že LLM tvoří nové poznatky, nové nápady nebo dokonce vykazují známky vědomí, tak jak je to dramaticky vyjádřeno v dystopické sérii filmů o terminátorech a Skynetu – neurální umělé síti, která si "uvědomí sama sebe" a během mžiku vyhodnotí lidstvo jako hrozbu hodnou eliminace.

Porozumění totiž není zpracování dat. Není to výpočetní operace. Porozumění není něco, co lze vyvodit z korelací nebo optimalizovat skrze pravděpodobnostní interpretace. Porozumění je způsob bytí. Je to situovanost subjektu ve světě, jeho zakotvení v kontextu, jeho tělesnost, jeho paměť, jeho emocionální vztah ke skutečnosti. V porozumění není kladena jen otázka, co něco znamená, ale především: pro koho to něco znamená a za jakých podmínek. Smysl se nerodí ve vzduchoprázdnu, nýbrž ve vztahu – mezi mluvčím a posluchačem, mezi znakem a člověkem, mezi světem a tím, kdo jej obývá. Jazykový model žádný svět neobývá. Neexistuje v čase, nemá minulost, netrpí, nezapomíná, nevrací se, nedoufá. Je to stroj na syntaxi, nikoli subjekt schopný sémantické angažovanosti, proto často zdůrazňuji, že LLM je velice sofistikovaný pazourek.

Když tedy mluvíme o tom, že LLM "rozumí" otázce, je to jen a jen metafora. Přesnější by bylo říci, že se model chová tak, jako by otázce rozuměl – protože byl trénován na milionech situací, jejichž porozumění a konečný produkt dodali právě lidé a nikdo jiný. Ale právě tento rozdíl – mezi porozuměním jako vnitřní zkušeností a prožitkem a porozuměním jako vnějším napodobujícím chováním – je klíčový. Simulace není totožná s prožitkem. Model může parafrázovat myšlenku, aniž by ji kdy uchopil. Může použít pojem, aniž by jej zakusil...

Tato mezera mezi strukturou a zkušeností je ontologická, ne pouze technická. Nejde o to, že bychom modely jednou vylepšili natolik, že tuto mezeru překlenou. Nejde o to, že by LLM ještě "nedosáhly" porozumění. Jde o to, že způsob jejich existence vůbec k porozumění nesměřuje... Naproti tomu lidské porozumění je vždycky tělesné, nějak lokalizované a hlavně zranitelné. Chápat něco znamená být tím zasažen ve více rovinách. Rozumět textu znamená dovolit mu, aby mě proměnil.

A právě proto může být lidské porozumění podnětem k novému nápadu – k takovému, který není pouhou rekombinací předchozího, ale který mění samotné rámce, v nichž myslíme... Co znamená "nový nápad"? Není to prostě věta, která dosud nepadla, nebo obraz, který dosud nebyl nakreslen. Je to kvalita, která přichází jako přerušení stávající rutiny, jako průlom, jako něco, co nebylo možné v rámci dosavadního diskurzu ani vyslovit. Nový nápad je ontologická událost: narušení předchozího horizontu, které zpětně mění i naše chápání minulosti. Ve filozofii bychom řekli, že jde o emergenci nové modality bytí – o první výskyt určité kvality, která dosud neměla místo v síti významu. Tento druh originality není výpočtem, ale zkušeností. Není produktem statistiky, ale událostí a sledů různých kvalit porozumění.

Kdo se setkal s opravdovým nápadem, ví, že se nedá naplánovat. Je to spíš vnuknutí než cokoliv jiného. Spíš osvícení než iterace. Přichází z hloubky, nikoli z matérie dat. A je-li v něm nějaký algoritmus, pak je vpleten do látky života – do traumatu, intuice, paradoxu. LLM žádné trauma nemá. Nečelí žádnému dilematu. Nevstupuje do vztahu s budoucností jako s otevřenou nejistotou. Nemá co riskovat. Modely tedy mohou imitovat nápady, ale nemohou je mít. Mohou vytvářet iluzi novosti, ale nikdy nepřekročí rámec daný tréninkovými daty. Vše, co generují, už v nějaké podobě bylo. Originální se může jevit jen tomu, kdo nerozpozná genealogii vzorců, které model replikoval. A právě zde je třeba být obezřetný: abychom si nespletli novost formy s novostí významu. Ne každá dobře napsaná věta je myšlenkou. Ne každý výstup je výstupem z dosavadního rámce.

Porozumění je víc než funkce. Je to vztah ke světu, který mě zavazuje, činí zranitelným, vyžaduje zodpovědnost. A právě proto nemůže být porozumění nikdy plně automatizováno. Můžeme automatizovat syntézu, sumarizaci, překlad. Ale ne porozumění. Stejně jako nelze automatizovat smutek nebo víru, nelze zautomatizovat chvění, které doprovází skutečné poznání.

Když tedy někdo tvrdí, že LLM mají potenciál nahradit lidské myšlení, měl by nejprve objasnit, co to myšlení je. A pokud to udělá poctivě, zjistí, že myšlení není jen produkce vět, ale způsob, jak být ve světě. A to, co je ve světě, nese za něj odpovědnost. Papoušek má pravdu, ale to je tak všechno.

K tomu:

Doplním jen některé detaily:

- Je vhodné vždy zdůrazňovat, že lidské myšlení se rodí a rozvíjí na bází všeobecně zprostředkující praktické činnosti, sebeutváření lidského myšlení (ale i chápání, prožívání, hodnocení atd. se odvíjí od procesu aktivního přetváření přírody a takto je i ukotveno).

- Pro značení "novosti" či "nápadu" používám výraz "přesah stávajícího poznání". Zdá se mně to obsahově přesnější a lépe vystihující to, o co jde.

- Pro odlišení lidského myšlení a strojového zpracování dat je a bude důležité (je to velmi složitý badatelský problém) vyjasnit, jak je to s "nebodovostí" lidské existence v čase. Jak je možná a jak se projevuje např. v existenci představivosti, jako jednoho ze základních forem lidského přemýšlení a objevování nového. Např. matematik dokazuje teorémy nikoli prostřednictvím kalkulu (to je jen zpětná forma vyjádření poznání nového), ale "nápadu" (přesahu), který je založen na představivosti.

- Odlišnost lidského chápání od strojového zpracování dat, projevující se mj. v "ukotvenosti" lidského poznání, souvisí i s tím, že proces sdílení poznatků je mnohem komplikovanější, "těžkopádnější" a někdy i konfliktnější, než strojové sdílení či přejímání informací. Proto analýza odlišností strojového a lidského může přinést i významné podněty pro zefektivnění lidského procesu sdílení poznatků, resp. vést k překonání některých zbytečných bariér toho, proč si nerozumíme.

A k tomu trochu inspirující přírody:

Už dlouhou dobu jsem toužil podívat se do Temešvaru, města v maďaské části Rumunska se slavnou dávnou i nedávnou historií. Je využito i v několika vtipech (Kohn - "Prý si chtěj, Roubíček, vzít Sáru z Temešváru. Věděj von, že ji zná celý Temešvvár?" Roubíček - "Já tam byl, a ono to není zas tak velký město."). - Město je to dost velké, hodně špatně se tam parkuje, ale stojí za to jej navštívit.

Ubyloval jsem se kousek odsud, asi 50 km, ve městečku Lugoj. Mj. i proto, abych se podíval na druhou stranu až k Železným Vratům na Dunaji. Po cestě jsem navštívil i některá další města, městečka či místa. Bylo to zajímavé a stálo to za to.

Město Arada, další na cestě do Lugoje. Obklopuje poloostrov s pevností a zábavným parkem, který vytváří řeka Mureš. Vpravo poloostrov, vlevo historická část města.