Radimvalencik | K dobré teorii/080: K umělé inteligenci II.

Do seriálu o dobré teorii zařazuji v logice věci článek o umělé inteligenci s dopady na pochopení současnosti uveřejněný před: 

Česká pozice 5. února uveřejnila text k problematice umělé inteligence, o které se bude v řadě aktuálních kontextů stále více diskutovat. Autorem je Petr Pietraš, který našemu čtenáři přibližuje knížku britského profesora na australské University of New South Wales Toby Walsh "It's Alive! Artificial Intelligence from the Logic Piano to Killer Robots"(Je naživu! Umělá inteligence od logického piana po zabijácké roboty). Zkoumá v ní umělou inteligenci z hlediska otázky, kdy překoná biologickou a zda a za jakých podmínek převezme nadvládu nad lidmi.

Název poněkud předjímá odpověď, což je podle mě velký problém. Ideologizace typu "Člověče, jsi úplné nic, umělá inteligence tě co nejdřív nahradí, tak na všechno rezignuj!" se dala očekávat. Současné globální moci by se velmi hodilo, aby i problematika umělé inteligence byla takto intepretována a aby rezignace na pochopení doby otevřela cestu k ještě větší záhubné manipulaci.

Základní problém je jiný: Jsou lidská a umělá inteligence "ze stejného těsta" a zdokonalováním ta umělá tu lidskou postupně nejen nahradí, ale i překoná, nebo se jedná o naprosto odlišné typy způsobů zpracování informací a vztahování se ke světu, přičemž na pozadí výkonů umělé inteligence vynikne podstata lidského myšlení, tedy to, co je specificky lidské a v čem lidské myšlení nenahraditelné, a získá tím výrazné podněty pro svůj další výboj?

Britský autor ani a jeho český interpretátor takto otázku nestaví a poněkud jednostranně sugerují čtenáři představu, že se musí smířit se svou "lidskou zbytečností".

Uveřejňuji text článku v České pozici se svými poznámkami, které odlišuji touto barvou a velikostí písma.

Umělá inteligence odstartuje civilizační posun. Jiný než ty minulé – 2. část

Petr Pietraš

Ovlivnění softwaru

S umělou inteligencí jsou spojené i změny na trhu práce a zánik mnoha současných povolání. Všude, kde bude možné zavést automatizaci a robotizaci, zaniknou lidské mechanické činnosti – v příštích 20 letech až 80 procent, od dopravy přes administrativu až po analýzu rentgenových snímků. Walsh se zamýšlí, jak tomuto vývoji čelit – je třeba se zaměřit na největší slabiny umělé inteligence a digitálních technologií, jako je plánování budoucnosti, emoce či kreativita.

Automatizovaná montážní linka nebo software na platy mohou fungovat 24 hodin sedm dní v týdnu, ale někdo je musí naprogramovat. Nemá proto smysl se srovnávat se stroji, ale věnovat se tomu, k čemu by je bylo možné v budoucnu použít a takové vymýšlet a vyrábět. Počítače nemají pocity a nedokážou lidské emoce analyzovat. Emocionální inteligence proto bude nadále slabinou umělé inteligence a výhodou lidí. Automatizace zvětší ocenění řemesel, protože vyžadují kreativitu a originální nápady, a tudíž v budoucnu umožní obstát na trhu práce v konkurenci s roboty.

Jak již bylo zmíněno, strojové učení je tím lepší, čím více dat má k dispozici. Ta ale kopírují názory a nálady ve společnosti, čímž software přebírá i všechny předsudky a nevraživosti v diskusi. V březnu 2016 udělala v tomto ohledu špatnou zkušenost společnost Microsoft poté, co umístila na Twitteru chatbot Tay diskutující s ostatními uživateli. Tay byl nápodobou 19leté Američanky a měl se učit z odpovědí na své otázky. Výsledek byl katastrofální, již za jeden den se z něho stal rasista, sexista a fanoušek Adolfa Hitlera.

Microsoft tento experiment, který odhalil jeden z největších problémů strojového učení, rychle zastavil. Na jedné straně je software ovlivňován svým tvůrcem-člověkem a odráží jeho názory, na druhé je vytvářen z dat, která jsou k dispozici. Reflektuje tedy především část společnosti, jež je ve virtuálním prostoru nejaktivnější. Skupiny, jež internet a digitální technologie nepoužívají, nebo jen pasivně, zanechávají mnohem méně dat. Tematické používání internetu, například zpravodajství o sportu, také neukazuje celý profil uživatele. Jiná data však strojové učení nemá.

Pět ponaučení

Walsh je skeptik, že pokud jde o singularitu, tedy o překonání biologické inteligence umělou, ale nepochybuje, že vývoj bude mít obrovský dopad a povede k velkým společenským změnám. Jeho uvažování připomíná amerického mediálního teoretika Neila Postmana (1931–2003), který v roce 1998 stanovil pět ponaučení z technologického vývoje.

•          Podle prvního každá nová technologie má i svou cenu, kterou je třeba zaplatit, a není jisté, že výhody převáží nad nevýhodami. Například auto zvýšilo společenskou mobilitu, ale znečišťuje životní prostředí a je příčinou smrtelných nehod. Knihtisk umožnil šíření vědomostí, ale i Hitlerova Mein Kampfu.

•          Druhé ponaučení zní, že nebudou jen vítězové, ale i poražení, přičemž vítězové se budou snažit poražené přesvědčit, že také patří k vítězům.

•          Třetím ponaučením je, že každá technologie přináší převratné ideje, které však nemusejí být na první pohled vidět. Za vynálezem písma byla idea zachovat informaci v čase a prostoru, vedlejším efektem zánik kultury ústního předávání informací. Pokud se podaří vytvořit stroje schopné samostatného myšlení, pak to také znamená konec jedinečného postavení člověka na Zemi.

•          Čtvrté ponaučení říká, že technologická změna neprobíhá po krůčcích, ale skokově, a změní zcela dosavadní způsob života.

•          Dle poslední pátého ponaučení se nové technologie rychle stávají součástí běžného života. Nikdo si dnes nedokáže představit život bez letadel, rychlovlaků, aut, chytrých telefonů či internetu.

Umělá inteligence odstartuje civilizační posun, jako byl ten od agrární k průmyslové společnosti. Tentokrát však bude jiný, protože půjde o kvalitativní změnu. V průběhu průmyslové revoluce lidskou pracovní sílu a kognitivní schopnosti posílily vynálezy spalovacího motoru, mikroskopu nebo rentgenového záření. V digitální době, v případě překonání lidské inteligence bude nejen nahrazena schopnost přemýšlet jako člověk, ale nová inteligence bude mít nadlidský výkon, čímž lidstvo přijde o to poslední, co ho dělalo výjimečným.

Zdroj: ceskapozice.lidovky.cz/...

K tomu poznámka ode mne:

Podobně jako Walsh i já jsem skeptik, "pokud jde o singularitu, tedy o překonání biologické inteligence umělou" a nepochybuji, že "vývoj bude mít obrovský dopad a povede k velkým společenským změnám".

Uvedu několik příkladů toho, proč se domnívám, že Thuringův (sekvenční) počítač je z "jiného těsta" (nejen po stránce technické) než lidský (i pokud jde o jeho matematicky vyjádřitelný základ) a jak je to možné:

- Žádný matematik neobjevuje důkaz žádného významnějšího matematického teorému tak, že by vycházel z axiómů a prostřednictvím pravidel odvozování by dospěl k žádoucímu výsledku. Ono to snad ve většině případů není ani matematicky možné. Nejdříve si představí, v čem je podstata a krása důkazu, pak už jen důkaz "řemeslně ušije". Počítač takto postupovat neumí a neumí ani rozpoznat "zajímavý" teorém od prosté kombinace důsledků použití pravidel odvozování k výchozím axiomům.

- Lidé vnímají přítomné bytí jako nenulový okamžik. A nejen vnímají, ale naše představivost prosycena mnohorozměrnou dynamickou soustavou prožitků by v sekvenčním čase ani nebyla možná. Prožíváme něco jako "kvantovou pluralitní současnost", nikoli fyzikální jednorozměrné plynutí v čase. Jak je to možné?

- S nápadem, že lidský mozek je "nějakým způsobem vzniklý a fungující" kvantový počítač, přišlo už hodně významných vědců. Například i famózní Roger Penrose, který předpokládal možnost propojení kvantového světa s lidským mozkem prostřednictvím "mikrotubulů", viz např.:

en.wikipedia.org/...

Tuto možnost ovšem poměrně přesvědčivě matematicky vyvrátil Max Tegmark.

A jak to tedy je? K tomu se pokusím říci něco víc na následující akci, na kterou srdečně zvu všechny zájemce:

Semináře jsou určeny všem zájemcům z řad pracovníků, studentů, absolventů VŠFS a dalších institucí, které se zabývají odbornou činností.

Po skončení semináře neformální pokračování v příjemném prostředí.

doc. Radim Valenčík, CSc.

koordinátor výzkumu VŠFS