Inspirující Mallorca: Horší než "vykořisťování"/25

Uveřejňuji další část inspirací, které jsem získal během putování po Mallorce a návazně na výletech v naší přírodě. Pokud někdo nečetl předcházející díly (o dost přišel, ale může to ještě dohonit, Mallorca stojí za to), doporučuji mu, aby si přečetl alespoň tento:

https://radimvalencik.pise.cz/9882-inspirujici-mallorca-horsi-nez-vykoristovani-1.html

V něm se dozví více o kontextu série věnované tématu Horší než "vykořisťování"" i o tom, jak jsem se v seriálu dostal k naší přírodě. Zde jen stručně připomenu, že jsem si právě pod Lovošem uvědomil souvislost Nashova vyjednávacího problému s otázkou, zda při pochopení toho, co se dnes odehrává, vystačíme s Marxovou teorií nadhodnoty. Nyní dávám články, které ukazují, jak lze obecný teoretický koncept využívat k lepšímu pochopení toho, o co jde zde a nyní.

Horší než "vykořisťování"/25

Nyní k druhému okruhu problémů, které jsou obsaženy ve vynikajícím rozhovoru s Tomášem Mikolovem, výzkumníkem umělé inteligence na CIIRC ČVUT v Praze, který se sem vrátil z USA založit tvůrčí tým s ambicí udělat ještě převratnější objevy, než se mu podařilo ve špičkových firmách ve Spojených státech. Týká se toho, co to je tzv. "umělá intelegence", která (jak dokládá T. Mikolov) je zcela odlišná od té lidské (a i s tím, co chápeme pod "inteligencí", má málo společného). Předznamenávám, že toto téma velmi úzce souvisí s tím, zda volit kooperativní či nekooperativní strategii. Uvádím ty pasáže, ve který to T. Mikolov populárně objasňuje:

Mám dojem, že se o umělé inteligenci dnes mluví až moc. Často je to součást různých business plánů. Vyjadřuje se k tomu skoro každý. Přitom to, co se dnes v korporacích vydává za umělou inteligenci, je obvykle strojové učení. A to je vlastně taková nafouknutá statistika.

Ta část strojového učení, která začala zrovna fungovat hodně dobře, to jsou neuronové sítě. Což je zase zavádějící název, evokuje to nějakou snahu o napodobení lidského mozku. Tak to možná bylo kdysi na počátku, ale dnes už jsou umělé neuronové sítě matematické modely, v podstatě lineární algebra, nemá to nic společného s lidským mozkem. Když někdo mluví o "simulaci mozku", tak tomu buď nerozumí, nebo je to podvodník.

Strojové učení funguje na principu analýzy velkého množství dat. Počítačové programy jsou sadou instrukcí a podle těchto instrukcí zpracovávají předložená data. Strojové učení umožňuje nový přístup k řešení problémů počítačem. Než aby programátor počítači napsal veškeré instrukce pro všechny eventuality jednotlivě, tak naprogramuje způsob, kterým se počítač sám učí na dodaných "trénovacích" datech. Učení probíhá pomocí sítí samostatných programů, tzv. umělých neuronů, proto se systému říká neuronová síť.

Například v případě strojového překladu se počítač trénuje na velkém množství textů, které jsou dostupné v angličtině i češtině. Neuronová síť zkouší překládat části textu a poté zkontroluje, nakolik se její verze liší od té správné. Ty části neuronů, které napovídaly správnou možnost, budou posíleny a příště budou hrát v rozhodování větší roli. Čím rozsáhlejší a kvalitnější jsou vstupní data, tím lepší může být výsledek.

Lidé mohou získat z těch marketingových řečí dojem, že je uvnitř počítače nějaká inteligence podobná té lidské. Myslím, že lidé by měli od nálepky "umělá inteligence" očekávat spíše pokročilé počítačové programy. S "inteligencí" to zatím nemá moc společného. Jsou to velké statistické modely, které mohou zpřístupnit nové, dříve nerealizovatelné funkce.

Musíme si zkrátka uvědomit, že počítač nevnímá obrázek tak, jako jej vidíme my. Detekuje tam nějaké vzory, které se v trénovacích datech často objevovaly společně s nějakou přiřazenou třídou. Když začnete pak náhle používat jiná data, třeba obrázky nafocené za jiných světelných podmínek, tak úspěšnost může být najednou katastroficky nízká.

Takových příkladů je celá řada. Já dělal doktorát v oblasti rozpoznávání řeči. Když natrénujeme počítač na vzorcích čtené řeči, kde mluvčí jasně vyslovuje, tak takto naučený model naprosto selhává na zašuměných nahrávkách z auta. Schopnost generalizace modelů na měnící se podmínky je mnohem nižší, než by člověk čekal. Což se tedy někdy maskuje tím, že se použijí obrovská kvanta trénovacích dat, třeba obrázky zvířat ze všech možných úhlů a se všemožnými světelnými podmínkami.

Když chce někdo mít úspěšnou kariéru, tak se snaží, aby o jeho práci vyšla bombastická zpráva. Taková se do médií dostane mnohem spíš. Pamatuji si třeba, že v roce 2012 v New York Times vyšla zpráva o tom, že se neuronová síť v Googlu naučila rozpoznávat objekty na videu bez supervize, jen sledováním YouTube.

Tehdy jsem se na to ptal lidí, co na tom dělali. A ten slavný obrázek kočky, na kterém to novinářům předváděli, tak ten prý vůbec nebyl vygenerovaný neuronovou sítí, jak se pak v médiích tvrdilo. Ten obrázek byl naopak zadán na vstupu, pak se prohnal tou neuronovou sítí a vyšla z toho zašuměná kočka (Vedoucího zmíněné práce jsme poprosili o komentář, zatím neodpověděl, pokud odpoví později, jeho odpověď do článku doplníme, pozn. red.).

Kdyby ten postup popsali správně, tak by to nikoho nezaujalo, protože to vlastně nedělalo nic moc jiného než to přidávání šumu. Začne to malým podvůdkem. Ale jak jednou člověk zalže, tak se to začne nabalovat, to je jako s tím Theranosem. "Fake it till you make it." (Falšuj to, dokud se ti to nepovede doopravdy, pozn. red.) Pak už musí člověk tvrdit, že mu to funguje.

Děláme s technikami, které mají potenciál fungovat pro nesupervizované učení. Když chceme vytvořit umělou inteligenci, myslím, že se k tomu můžeme dostat – paradoxně možná rychleji – simulací evoluce, spíše než abychom se snažili kopírovat lidský mozek, jehož složitost je obrovská. Mozek je vedlejší produkt evoluce. Myslím, že v budoucnosti se ukáže, že je nakonec jednodušší vytvořit systém umělé evoluce, kde bude potenciál pro vznik umělého mozku, než se snažit počítačově napodobit biologický mozek.

Lidé se umí učit kontinuálně, vytváříme si stále nové modely světa, které jsou složitější a složitější a staví na tom, co jsme se naučili dříve. Je rozhodně zajímavé toto zkoumat. Ale taky v našem oboru používáme trochu zavádějící terminologii. Například existuje hodně pokusů a hromada článků, jak to udělat, aby se strojové učení naučilo se učit, jak se učit postupně jako lidé stavěním nových řešení na základě těch předchozích. Ale to jsou zrovna problémy, které současné strojové učení dobře neřeší. Možná by bylo lepší mluvit o strojovém memorování, protože ta potřebná generalizace tam stále chybí.

Nechci být pořád za pesimistu, ale prostě se mi nelíbí, že někteří lidé z AI komunity slibují nesmyslné věci. Podobně, jako je dokument o podvodech firmy Theranos, tak by to chtělo natočit dokument o tom, jak se podvádí v oblasti umělé inteligence.

Celý rozhovor viz: https://www.seznamzpravy.cz/clanek/jeho-figl-v-usa-nakopl-vyvoj-strojoveho-uceni-proc-se-expert-vratil-176156

Pro nás v rámci našeho seriálu, ve kterém se snažíme aplikovat aparát teorie her na analýzu pozičního investování, z toho vyplývají dva závěry:

1. Méně důležitý a vzdálenější od problematiky, kterou sledujeme: Tzv. "umělá inteligence" skutečné lidské myšlení nenahradí. Spoléhat na to, že tu jednou budou inteligentní roboti, takže člověk není tak důležitý, je nesmysl a někdy i záměrně pěstovaný alibismus, kterým se někteří lidé snaží zbavit zodpovědnosti za to, co se děje.

2. Mnohem více důležitý a bezprostředně se týkající rozhodování, zda se chovat kooperativně či nekooperativně: Tento problémový okruh vyplývá z otázky, jak vlastně myslíme a co je podstatou našeho žití.

K tomu podrobněji:

Lidské myšlení se chová spíše jako kvantový počítač (který je schopen v jednom a témže okamžiku uchovat všechny kvantové stavy a pracovat s nimi) než sekvenční počítač (který jde od operace k operaci). Jak je možné, že lidské myšlení připomíná spíše kvantový počítač, je ovšem velká záhada. Podmínky, za nichž lze paralelně uchovat kvantové stavy jsou z fyzikálního hlediska tak extrémní, že by okamžitě vedly k zániku jakékoli živé struktury.

Lidskou představivost, schopnost uvažovat prostřednictvím představ a jejich emocionálního "kolorování", mít "nebodovou" existenci v čase, jako takovou ji prožívat a v souladu s ní jednat, to je něco, co ani ten nejlepší počítač vybavený libovolným počtem paralelně pracujících procesorů nedokáže. Je to prostě o něčem jiném.

Jak je ovšem možné, že si v našem každodenním životě, běžném rozhodování "půjčujeme" výsledky zpracování dat z paralelních everttovských světů, když žijeme jen v jednom z "vláken" těchto everettovských světů?

Jedním z možných vysvětlení je, že při každé bodové interakci na elementární úrovni se svět nejen rozděluje do jednotlivých vláken everettovských světů, ale nějakým (nám doposud neznámý způsobem) dochází i k propojování (slučování, prolínání) různých vláken odlišných kvantových stavů. Realita našeho žití a prožívání, to, co pociťujeme jako "aktuální bytí" (německy výstižně "Dasein") je prolnutím mnoha everettovských vláken a právě to propůjčuje našemu (ale patrně nejen našemu, ale i části živočišné říše) ojedinělou schopnost myšlení (či obdobných úkonů), které přesahují možnosti jakéhokoli strojového myšlení.

Ve stávající primitivní historii lidské komunity pak přežívají ty takto vzniklé světy, které mají to, co lze nazvat "pokračováním" či "přesahem", pokračováním ve smyslu přesahu primitivního stádia naší civilizace. Je otázkou, zda to nesouvisí přímo s tím, jak si uvědomujeme naši existenci (resp. s otázkou "Kterou z realit našeho žití pociťujeme a prožíváme jako svou vlastní existenci?"). Pokud naše individuální žití a prožívání tohoto žití souvisí s "pokračováním" či "přesahem" vývoje naší civilizace za hranice primitivního stádia, pak je to silný argument nejen pro volbu kooperativních strategií (ve smyslu teorie her, kterými modelujeme efekty pozičního investování), ale i pro aktivní účast v zápase o přežití naší civilizace a vyměnění se z civilizačních rizik příznačných pro primitivní stádium dějin lidské komunity, ve kterém se s fenoménem pozičního investování potýkáme.

Potud jen velmi stručně. Podrobně jsem o tom pojednal i s uvedením podstatných pasáží (a obrázků) z knížky M. Tegmarka "Matematický vesmír", která je o různých typech  mnohosvětovosti a souvislosti struktury vesmíru s problémem odlišnosti lidské a umělé inteligence, zde: https://valencik.cz/marathon/doc/Mar2004.pdf

(Pokračování)

A k tomu trochu přírody:

Udělal jsem si krátkou vycházku na Hněvín v Mostě. Sice je to jen replika, ale věrná a architektonicky zdařilá. Jsou z ní krásné výhledy. Odskočil jsem si sem po výuce v pobočce naší univerzity, abych načerpal nové inspirace. Právě zde jsem si uvědomil význam taktiky "TĚLO NA TĚLO" (předkládání návrhů, které jsou zdánlivě bez problémů přijatelné, ale v jejichž odmítnutí se projevuje ortodoxie zla) a způsob její prezentace, především pak její souvislost s nástroji teoretické analýzy pozičního investování. Po cestě jsem potkal svého přítele s Danielem Hůlkou. Pak mě čekal sestup po nové ferratě. Dobrodružné, ale zvládnul jsem to. Výstup by byl jednodušší. Shora to vůbec nevypadalo na to, že stezka s ocelovým lanem přejde do podoby této novodobé atrakce.

V popředí vrch Šičák, vpravo Zlatník. Homole přibližně uprostřed je slavný vrch Bořeň. Proč slavný? Goethe jej považoval za nejkrásnější vyhlídku ve Střední Evropě. A asi měl pravdu.

Kostel Nanebevzetí Panny Marie. V roce 1975 byl kostel pomocí hydraulických podvozků a ocelové konstrukce přemístěn na bezpečné místo mimo oblast těžby. Mohutná stavba se posunovala rychlostí asi 2 cm za minutu a za 27 dní urazila 841 metrů, zapsala se tak do Guinessovy knihy rekordů jako přeprava nejtěžšího předmětu po kolejích.

Nový Most. V dálce horizont tvořený (zleva) Rannou, Milou, Oblíkem, Okrouhlíkem. Krásné kopce se vzácnou květenou a výhledy.

Příjemnější část ferraty, po které jsem sestoupil z Hněvína. To nejhorší mě ještě čeká.