Vize, jakou potřebujeme/17

2. leden 2022 | 00.01 |

blog ›

V předcházející části jsem uveřejnil svou knížku "Lidi, ještě máte rozum..." z roku 1994. Upozornil jsem na pasáže týkající se možnosti kvalitativně neomezeného vývoje, jehož jsme součástí (s. 71-76 knížky), viz:

https://radimvalencik.pise.cz/10019-vize-jakou-potrebujeme-16.html

Vzhledem k tomu, že články na mám blogu mají omezený rozsah, nemohl jsem uveřejnění knížky s odkazem na příslušné pasáže podrobněji komentovat. Vztahují se k části vize III/2: Širší pohled na svět, ve kterém žijeme, který vychází z nejnovějších poznatků věd o přírodě. Náš svět má neomezenou možnost vzestupného vývoje a tuto možnost neomezeného vývoje lze s trochou vědomostí pochopit, což má značný motivační význam. Ne náhodou ve všech obdobích nástupu rekce, snahy zastavit vzestupný vývoj rostla agresivita tmářství. Proto také chápu tento bod nikoli jen jako významně podporující, ale jako důležitou součást vize.

Svou představu o celé struktuře vize jsem uveřejnil zde:

https://radimvalencik.pise.cz/10010-vize-jakou-potrebujeme-11.html

Proč je "fantazírování" o vzdálené perspektivně, která je pro nás individuálně nedosažitelná, tak důležité?

Z řady důvodů. Například proto, abychom rozpoznali, které tendence jsou perspektivní. Ne nepodstatný je existenciální aspekt. Motivační a emocionální struktura člověka, jeho prožitkový či existenciální rozměr, se vyvinuly tak, že má přirozenou potřebu vztahovat se k budoucímu, a to i tomu budoucímu, které jeho individuální existenci přesahuje. Přitom (a každý si to může ověřit sám na sobě i na lidech ze svého okolí):

1. Člověk zcela jinak vidí svět, když žije v představě:

- že se brzy stane zbytečným, protože ho nějaká umělá inteligence nejen připraví o práci, ale učiní úplně zbytečným;

- že umělá inteligence je jen nástrojem člověka, jehož schopnost přesahu vznikla přirozeným vývojem a jen na tomto základě lze objevit něco skutečně nového, že čím bude tzv. umělá inteligence dokonalejší, tím více poroste poptávka po specificky lidských schopnostech a tím větší podněty i prostor pro rozvoj schopností i jejich uplatnění bude otevírán.

1. Člověk zcela jinak vidí svět, když žije v představě:

- že zánik lidstva, dříve, později či hodně později, je tak jak tak neodvratný.

- že možnost vývoje lidské pospolitosti je nejen neomezená, ale dokonce kvalitativně neomezená, že tak jak se vyvinula z neživé přírody živá a z živé myslící, tak je možný další vzestup, stejně převratný...

Atd.

Pokud člověk chce žít s perspektivní, realistickou a srozumitelnou vizí, či ještě přesněji, pokud chce žít vizí tohoto typu, měla by být řádně ošetřena (v rámci dělby práce při jejím pěstování) i její existenciální složka týkající se právě nezastupitelnosti člověka a neomezených možností vývoje lidské pospolitosti. Bylo by fajn, kdyby k tomuto tématu třeba v rámci otevřeného sdružení Kudy z krize (https://www.kudyzkrize.cz/ )vznikla skupina, která bude na dané téma komunikovat.

Je k čemu komunikovat

Jako příklad k tomu vybírám pasáže, které jsou obsaženy ve vynikajícím rozhovoru s Tomášem Mikolovem, výzkumníkem umělé inteligence na CIIRC ČVUT v Praze, který se sem vrátil z USA založit tvůrčí tým s ambicí udělat ještě převratnější objevy, než se mu podařilo ve špičkových firmách ve Spojených státech. Týká se toho, co to je tzv. "umělá intelegence", která (jak dokládá T. Mikolov) je zcela odlišná od té lidské (a i s tím, co chápeme pod "inteligencí", má málo společného). Předznamenávám, že toto téma velmi úzce souvisí s tím, zda volit kooperativní či nekooperativní strategii. Uvádím ty pasáže, ve který to T. Mikolov populárně objasňuje (jeho slova odlišuji od svého textu barvou):

Mám dojem, že se o umělé inteligenci dnes mluví až moc. Často je to součást různých business plánů. Vyjadřuje se k tomu skoro každý. Přitom to, co se dnes v korporacích vydává za umělou inteligenci, je obvykle strojové učení. A to je vlastně taková nafouknutá statistika.

Ta část strojového učení, která začala zrovna fungovat hodně dobře, to jsou neuronové sítě. Což je zase zavádějící název, evokuje to nějakou snahu o napodobení lidského mozku. Tak to možná bylo kdysi na počátku, ale dnes už jsou umělé neuronové sítě matematické modely, v podstatě lineární algebra, nemá to nic společného s lidským mozkem. Když někdo mluví o "simulaci mozku", tak tomu buď nerozumí, nebo je to podvodník.

Strojové učení funguje na principu analýzy velkého množství dat. Počítačové programy jsou sadou instrukcí a podle těchto instrukcí zpracovávají předložená data. Strojové učení umožňuje nový přístup k řešení problémů počítačem. Než aby programátor počítači napsal veškeré instrukce pro všechny eventuality jednotlivě, tak naprogramuje způsob, kterým se počítač sám učí na dodaných "trénovacích" datech. Učení probíhá pomocí sítí samostatných programů, tzv. umělých neuronů, proto se systému říká neuronová síť.

Například v případě strojového překladu se počítač trénuje na velkém množství textů, které jsou dostupné v angličtině i češtině. Neuronová síť zkouší překládat části textu a poté zkontroluje, nakolik se její verze liší od té správné. Ty části neuronů, které napovídaly správnou možnost, budou posíleny a příště budou hrát v rozhodování větší roli. Čím rozsáhlejší a kvalitnější jsou vstupní data, tím lepší může být výsledek.

Lidé mohou získat z těch marketingových řečí dojem, že je uvnitř počítače nějaká inteligence podobná té lidské. Myslím, že lidé by měli od nálepky "umělá inteligence" očekávat spíše pokročilé počítačové programy. S "inteligencí" to zatím nemá moc společného. Jsou to velké statistické modely, které mohou zpřístupnit nové, dříve nerealizovatelné funkce.

Musíme si zkrátka uvědomit, že počítač nevnímá obrázek tak, jako jej vidíme my. Detekuje tam nějaké vzory, které se v trénovacích datech často objevovaly společně s nějakou přiřazenou třídou. Když začnete pak náhle používat jiná data, třeba obrázky nafocené za jiných světelných podmínek, tak úspěšnost může být najednou katastroficky nízká.

Takových příkladů je celá řada. Já dělal doktorát v oblasti rozpoznávání řeči. Když natrénujeme počítač na vzorcích čtené řeči, kde mluvčí jasně vyslovuje, tak takto naučený model naprosto selhává na zašuměných nahrávkách z auta. Schopnost generalizace modelů na měnící se podmínky je mnohem nižší, než by člověk čekal. Což se tedy někdy maskuje tím, že se použijí obrovská kvanta trénovacích dat, třeba obrázky zvířat ze všech možných úhlů a se všemožnými světelnými podmínkami.

Když chce někdo mít úspěšnou kariéru, tak se snaží, aby o jeho práci vyšla bombastická zpráva. Taková se do médií dostane mnohem spíš. Pamatuji si třeba, že v roce 2012 v New York Times vyšla zpráva o tom, že se neuronová síť v Googlu naučila rozpoznávat objekty na videu bez supervize, jen sledováním YouTube.

Tehdy jsem se na to ptal lidí, co na tom dělali. A ten slavný obrázek kočky, na kterém to novinářům předváděli, tak ten prý vůbec nebyl vygenerovaný neuronovou sítí, jak se pak v médiích tvrdilo. Ten obrázek byl naopak zadán na vstupu, pak se prohnal tou neuronovou sítí a vyšla z toho zašuměná kočka (Vedoucího zmíněné práce jsme poprosili o komentář, zatím neodpověděl, pokud odpoví později, jeho odpověď do článku doplníme, pozn. red.).

Kdyby ten postup popsali správně, tak by to nikoho nezaujalo, protože to vlastně nedělalo nic moc jiného než to přidávání šumu. Začne to malým podvůdkem. Ale jak jednou člověk zalže, tak se to začne nabalovat, to je jako s tím Theranosem. "Fake it till you make it." (Falšuj to, dokud se ti to nepovede doopravdy, pozn. red.) Pak už musí člověk tvrdit, že mu to funguje.

Děláme s technikami, které mají potenciál fungovat pro nesupervizované učení. Když chceme vytvořit umělou inteligenci, myslím, že se k tomu můžeme dostat – paradoxně možná rychleji – simulací evoluce, spíše než abychom se snažili kopírovat lidský mozek, jehož složitost je obrovská. Mozek je vedlejší produkt evoluce. Myslím, že v budoucnosti se ukáže, že je nakonec jednodušší vytvořit systém umělé evoluce, kde bude potenciál pro vznik umělého mozku, než se snažit počítačově napodobit biologický mozek.

Lidé se umí učit kontinuálně, vytváříme si stále nové modely světa, které jsou složitější a složitější a staví na tom, co jsme se naučili dříve. Je rozhodně zajímavé toto zkoumat. Ale taky v našem oboru používáme trochu zavádějící terminologii. Například existuje hodně pokusů a hromada článků, jak to udělat, aby se strojové učení naučilo se učit, jak se učit postupně jako lidé stavěním nových řešení na základě těch předchozích. Ale to jsou zrovna problémy, které současné strojové učení dobře neřeší. Možná by bylo lepší mluvit o strojovém memorování, protože ta potřebná generalizace tam stále chybí.

Nechci být pořád za pesimistu, ale prostě se mi nelíbí, že někteří lidé z AI komunity slibují nesmyslné věci. Podobně, jako je dokument o podvodech firmy Theranos, tak by to chtělo natočit dokument o tom, jak se podvádí v oblasti umělé inteligence.

Celý rozhovor viz: https://www.seznamzpravy.cz/clanek/jeho-figl-v-usa-nakopl-vyvoj-strojoveho-uceni-proc-se-expert-vratil-176156

Pro nás z hlediska existenciálního rozměru komplexní vize, z toho vyplývá, že tzv. "umělá inteligence" skutečné lidské myšlení nenahradí. Spoléhat na to, že tu jednou budou inteligentní roboti, takže člověk není tak důležitý, je nesmysl a někdy i záměrně pěstovaný alibismus, kterým se někteří lidé snaží zbavit zodpovědnosti za to, co se děje.

K tomu podrobněji:

Lidské myšlení se chová spíše jako kvantový počítač (který je schopen v jednom a témže okamžiku uchovat všechny kvantové stavy a pracovat s nimi) než sekvenční počítač (který jde od operace k operaci). Jak je možné, že lidské myšlení připomíná spíše kvantový počítač, je ovšem velká záhada. Podmínky, za nichž lze paralelně uchovat kvantové stavy jsou z fyzikálního hlediska tak extrémní, že by okamžitě vedly k zániku jakékoli živé struktury.

Lidskou představivost, schopnost uvažovat prostřednictvím představ a jejich emocionálního "kolorování", mít "nebodovou" existenci v čase, jako takovou ji prožívat a v souladu s ní jednat, to je něco, co ani ten nejlepší počítač vybavený libovolným počtem paralelně pracujících procesorů nedokáže. Je to prostě o něčem jiném.

Jak je ovšem možné, že si v našem každodenním životě, běžném rozhodování "půjčujeme" výsledky zpracování dat z paralelních everttovských světů, když žijeme jen v jednom z "vláken" těchto everettovských světů?

Jedním z možných vysvětlení je, že při každé bodové interakci na elementární úrovni se svět nejen rozděluje do jednotlivých vláken everettovských světů, ale nějakým (nám doposud neznámý způsobem) dochází i k propojování (slučování, prolínání) různých vláken odlišných kvantových stavů. Realita našeho žití a prožívání, to, co pociťujeme jako "aktuální bytí" (německy výstižně "Dasein") je prolnutím mnoha everettovských vláken a právě to propůjčuje našemu (ale patrně nejen našemu, ale i části živočišné říše) ojedinělou schopnost myšlení (či obdobných úkonů), které přesahují možnosti jakéhokoli strojového myšlení.

Ve stávající primitivní historii lidské komunity pak přežívají ty takto vzniklé světy, které mají to, co lze nazvat "pokračováním" či "přesahem", pokračováním ve smyslu přesahu primitivního stádia naší civilizace. Je otázkou, zda to nesouvisí přímo s tím, jak si uvědomujeme naši existenci (resp. s otázkou "Kterou z realit našeho žití pociťujeme a prožíváme jako svou vlastní existenci?"). Pokud naše individuální žití a prožívání tohoto žití souvisí s "pokračováním" či "přesahem" vývoje naší civilizace za hranice primitivního stádia, pak je to silný argument nejen pro volbu kooperativních strategií (ve smyslu teorie her, kterými modelujeme efekty pozičního investování), ale i pro aktivní účast v zápase o přežití naší civilizace a vyměnění se z civilizačních rizik příznačných pro primitivní stádium dějin lidské komunity, ve kterém se s fenoménem pozičního investování potýkáme.

Potud jen velmi stručně. Podrobně jsem o tom pojednal i s uvedením podstatných pasáží (a obrázků) z knížky M. Tegmarka "Matematický vesmír", která je o různých typech mnohosvětovosti a souvislosti struktury vesmíru s problémem odlišnosti lidské a umělé inteligence, zde: https://valencik.cz/marathon/doc/Mar2004.pdf

Od zítřka se budu věnovat příspěvkům, kterých jsem dostal velké množství. Obsahují přínosné podněty. Dobrou vizi můžeme VYPĚSTOVAT jen společně.

(Pokračování)

A k tomu trochu inspirující přírody:

Podruhé jsem letos vyrazil na stradonické keltské opidum. Přímo ze Stradonic. Tentokrát jsem vycházku (asi 7 km) jinak strukturoval. Mým cílem byla akropole, ale také stradonický vodopád na Černovském potoku. K němu jsem musel projít náhorní plošinou s neuvěřitelnými výhledy do krajiny pokryté mocnou vrstvou jinovatky.

Nádherně rezavý Stradonický vodopád, jeden z největších u Prahy.