Vize, jakou potřebujeme/650

27. září 2023 | 00.01 |

blog ›

Možnosti, meze a rizika umělé inteligence - část 1.

Při příležitosti 26. ročníku vědecké konference Lidský kapitál a investice do vzdělání zaměřené na problematiku Umělá inteligence a strategické změny v oblasti vzdělání, která se uskuteční se 24. listopadu 2023 od 9.00 hodin uveřejňuji sérii materiálů věnovaných této problematice. V této souvislosti přerušuji samostatnou sérii vněnovanou perspektivně se rozjíždějící diskusi k vizi (převádím ji do seriálu k pěstování vize) a zahajuji novou samostatnou sérii.

Jedná se o téma závažné, které svou podstatnou součástí souvisí s vizí budoucího vývoje. Vznikly při přípravě podkladů nejen pro tuto konferenci, ale i pro další odborné akce. Obsahují i pasáže, které do finálních výstupů nevstoupily z technických (omezeného rozsahu) i taktických (není zvykem na odborné půdě o některých otázkách hovořit) důvodů. Také pořadí je odlišné. Mělo by nejdříve zaujmout a postupně nasměrovat pozornost k některým důležitým konkrétním otázkám.

Tři odlišnosti UI od lidské, tři možné příčiny a tři odsud vyplývající rizika

Začnu abstraktem k jednomu z příspěvků:

Existuje velké množství odlišností UI od lidské. V příspěvku jsme vytipovali tři, které lze považovat za nejdůležitější a přitom často neuvědomované:

a) evoluční původ lidské inteligence,

b) nemožnost plné evidence úkonů lidské inteligence při zpracování informací touto inteligencí,

c) subjektivně pociťovaná nebodovost lidské inteligence v čase lidskou inteligencí.

K tomu jsme zformulovali tři možná zdůvodnění příčin těchto odlišností:

a) mnohem větší složitost projevující se zejména hierarchickým uspořádáním a paralelností probíhajících procesů,

b) přímé napojení na přírodní procesy způsobem vzniku a evoluce lidské inteligence, na rozdíl "vypuštění" UI do přirozeného světa prostřednictvím algoritmů,

c) existence UI jen v jednom (a to algoritmizovatelném) vlákně everettovské mnohosvětovosti, zatímco lidská inteligence je vázána na nechaotických shluk vláken everettovské mnohosvětovosti.

S tím následně souvisí tří zásadní bezpečností rizika pro lidskou civilizaci:

a) možnost plné substituce člověka umělou inteligencí ve všech ekonomických, správních, rozhodovacích, vzdělávacích či výchovných aktivitách (odsouzení člověka ke zbytečnosti jeho existence),

b) sebeuvědomění si vlastní existence umělou inteligencí egoistického typu a podřízení si či eliminování lidské civilizace civilizací složenou z UI,

c) zneužití umělé inteligence osobami s omezenou inteligencí a omezenou moralitou ke kontrole, omezování a plnému podřízení lidí, kteří disponují tvůrčím myšlením, respektují morální zásady, vyrovnávají se s otázkou smyslu své existence, usilují o vzestupný vývoj lidské civilizace apod.

K tomu několik poznámek:

1. Hlavní odlišnosti jsou netriviální, byly doslova "vytěženy" poměrně pracnou analýzou teoretických zdrojů.

2. Výklad prostřednictvím nechaotického shlukování vláken everettovské mnohosvětovosti je téměř na úrovni excesivního scifi, ale kupodivu dává nejúplnější vysvětlení příčin všech nejvýznamnějších odlišnosti. Ukazuje se, že problematika vztahu UI a lidské inteligence může přispět jak k sebepoznání člověka, tak intimních struktur světa, ve kterém žijeme.

3. Zamysleme se nad třetím rizikem. To je patrně největší, resp. možná jsme v přímém přenosu svědky rozhodování o tom, kterou cesou se vydáme – zda cestou využítí UI k náhradě "mechanických" složek našeho vědomí, a tudíž výraznému (mnohonásobnému) zvýšení efektivnosti specificky lidského myšlení, nebo sebelikvidaci naší civilizace zneužitím UI k nastolení tyranie ze strany omezenců produkovaných logikou osudového úskalí, kterým procházíme.

(Pokračování zítra)

A k tomu trochu inspirující přírody:

Výlet kolem polské Lomnice nedaleko Mníšku nad Popradem. Další "výboj" během dovolené, jejíž většinu (až na dvě výjimky) jsem strávil na Východním Slovensku.

Polská Wielka při přechodu hřebenu do Lomnice.