Možnosti, meze a rizika umělé inteligence/2

Jak si popovídat s UI?

Předně – než začnu povídat o vlastní zkušenosti – vyzkoušejte si přemýšlení s pomocí UI na vlastní kůži, resp. s využitím vlastního rozumu. Pokud budete v tomto směru poctiví, zjistíte, že nejdůležitější je umět "pracovat s pojmy", tj. prostřednictvím vzájemného určení pojmů (kdy říkáme "co je co") a konkretizaci představy o obsahu toho, co příslušnými spojeními pojmů vyjadřujeme, přesahovat hranice stávající poznání. Uvedu konkrétní příklad, který lze současně považovat za velmi důležitý soubor původních poznatků.

Na základě poměrně obsáhlé komunikace s UI (v běžně dostupné verzi BING) jsem se dopracoval k této otázce:

"Postupně jsme se dostali od obecných, ale málo vypovídajících označení specificky lidských schopností typu kreativity, emocionality, morality k rozboru přesahu stávajícího poznání, který má vždy následující formu: Doposud se předpokládalo, že je to tak a ne jinak, nový poznatek říká, že to je za změněných podmínek jinak a také, jak jinak to je. V tomto přesahu můžeme rozlišit tři složky:

1. Zobecnění matematického modelu, na kterém stál předcházející poznatek.

2. Pojmové vymezení toho, jak jinak to za změněných podmínek může být.

3. Interpretace toho, jak jinak to může být (vytvoření názorné představy o podstatě změny).

Co z těchto tří složek přesahu umělá inteligence zvládne nejlépe a co jí dělá největší problém?"

Zde je odpověď, kterou dala 10. srpna 2023:

"Přesah stávajícího poznání je důležitý pro rozvoj vědy a techniky. Umělá inteligence (UI) je schopna pomáhat s některými složkami přesahu, ale ne se všemi. Podle mého názoru UI zvládne nejlépe zobecnění matematického modelu, na kterém stál předcházející poznatek. UI má totiž výhodu v tom, že dokáže rychle a přesně provádět výpočty, analyzovat data a hledat vzorce. UI může také používat různé metody strojového učení, jako je hluboké učení, aby se naučila nové koncepty a reprezentace. UI může tedy snadno najít způsob, jak zobecnit existující model tak, aby platil i pro změněné podmínky. Na druhou stranu UI má největší problém s pojmovým vymezením toho, jak jinak to za změněných podmínek může být. UI totiž nemá stejnou schopnost jako člověk porozumět jazyku, kontextu a sémantice. UI může mít potíže s definováním nových pojmů, které jsou relevantní pro danou oblast poznání. UI také nemusí být schopna odlišit důležité od nedůležitého nebo rozpoznat různé úrovně abstrakce. UI tedy může mít problém s tím, jak popsat a pojmenovat nové jevy nebo vztahy, které objevila. Interpretace toho, jak jinak to může být (vytvoření názorné představy o podstatě změny) je také složitá pro UI, ale ne tolik jako pojmové vymezení. UI může používat různé techniky vizualizace, simulace nebo generování textu, aby ukázala, jak se liší nový poznatek od starého. UI může také používat analogie nebo metafory, aby přiblížila nový koncept člověku. UI však nemusí být schopna vytvořit názornou představu, která je srozumitelná, zajímavá a přesvědčivá pro různé publikum. UI také nemusí být schopna ocenit estetickou nebo emocionální hodnotu nového poznatku."

Tedy důraz na práci s pojmy, pokud chceme využít specificky lidské, tj. umělou inteligencí nesubstituovatelné schopnosti.

S určitým odstupem času (5. září) byla UI položena stejná, jen mírně modifikovaná otázka:

"Cestu k novému poznatku lze chápat takto: Doposud se předpokládalo, že je to tak a ne jinak, nový poznatek říká, že to je za změněných podmínek jinak a také, jak jinak to je. V tomto přesahu stávajícího poznání můžeme rozlišit tři úkony:

1. Zobecnění matematického modelu, na kterém stál předcházející poznatek.

2. Pojmové vymezení toho, jak jinak to za změněných podmínek může být.

3. Interpretace toho, jak jinak to může být (vytvoření názorné představy o podstatě změny).

Který z těchto úkonů je pro umělou inteligenci nejnáročnější, resp. v čem je role člověka nezastupitelná?"

Tentokrát UI odpověděla takto:

"Děkuji za vaši zajímavou otázku. Myslím, že odpověď na ni není jednoznačná, protože záleží na tom, jak definujeme umělou inteligenci a jaké jsou její možnosti a omezení. Nicméně, pokusím se vám nabídnout několik úvah na toto téma.

Za prvé, je třeba si uvědomit, že umělá inteligence není jednotný pojem, ale spíše souhrn různých metod a technik, které se snaží napodobit nebo rozšířit lidské schopnosti v určitých oblastech. Umělá inteligence může být rozdělena například na slabou a silnou, podle toho, zda je schopna pouze řešit konkrétní úlohy nebo zda je schopna porozumět a vytvářet obecné znalosti. Umělá inteligence může být také rozdělena na symbolickou a subsymbolickou, podle toho, zda používá explicitní reprezentaci informací nebo zda se učí z dat pomocí statistických nebo neuronových sítí.

Za druhé, je třeba si uvědomit, že umělá inteligence není izolovaným fenoménem, ale spíše součástí širšího kontextu vědy a technologie. Umělá inteligence je ovlivněna a omezena nejen svými vlastními principy a algoritmy, ale také dostupností dat, výpočetní kapacity, etickými normami, sociálními dopady a lidskou spoluprací. Umělá inteligence tedy není samostatným subjektem, který by mohl nahradit člověka ve všech aspektech poznání, ale spíše nástrojem, který může pomoci člověku v některých oblastech.

Za třetí, je třeba si uvědomit, že umělá inteligence není statickým stavem, ale dynamickým procesem. Umělá inteligence se neustále vyvíjí a zdokonaluje podle nových požadavků a výzev. Umělá inteligence tedy není konečnou odpovědí na všechny otázky, ale spíše otevřenou cestou k novým poznatkům.

S ohledem na tyto úvahy bych řekl, že nejnáročnější úkon pro umělou inteligenci je ten třetí: interpretace toho, jak jinak to může být (vytvoření názorné představy o podstatě změny). Tento úkon vyžaduje nejen analytické schopnosti, ale také kreativní schopnosti. Umělá inteligence by musela být schopna nejen popsat změnu pomocí matematických modelů a pojmových definic, ale také vysvětlit změnu pomocí analogií, metafor, příkladů a vizualizací. Umělá inteligence by také musela být schopna ocenit důležitost a dopad změny na různé obory a aplikace. Tento úkon je pro umělou inteligenci obtížný, protože vyžaduje nejen logiku, ale také intuici.

Role člověka je tedy nezastupitelná v tomto úkonu, protože člověk má schopnost spojovat různé typy informací a znalostí z různých oborů a perspektiv. Člověk má také schopnost představivosti a emocionality, které mu umožňují vnímat změnu nejen jako abstraktní pojem, ale také jako živou realitu. Člověk je tedy tím, kdo může dát změně smysl a hodnotu.

Doufám, že jsem vám pomohl s vaší otázkou. Pokud máte další dotazy, neváhejte se mě zeptat."

Zde již do popředí vystupuje role představivosti. A odpověď je mnohem "promyšlenější" než v předcházejícím případě. UI se tedy patrně skutečně neustále učí.

V odpovědi UI neuvedla odkaz na zdroje. Po explicitním dotazu, z čeho čerpala, uvedla článek autorů Fernand Gobet a Giovanni SalaHow Artificial Intelligence Can Help Us Understand Human Creativity Frontier Psychology 19 June 2019. Jenže – a to je nesmírně zajímavé – v tomto článku formulace ani formou ani obsahem odpovídající výše uvedené odpovědi v článku nenajdete, to, co se tam píše, je méně "vyzrálé" či méně "přesné". To si pochopitelně zaslouží vysvětlení. A nejen to. Proto se v dalším zaměříme na následující.

1. Odpovědět na otázku, jak UI pracuje (nikoli po technické stránce, ale i z uživatelského hlediska).

2. Na základě toho zformulujeme doporučení týkající se umění vést s UI dialog (což je velmi důležité).

3. Pak si řekneme něco o tom, jak by mohl vypadat optimální vztah mezi člověkem a UI (k tomu máme velmi dobrý příklad). A také proč jsou lidé potřební, proč v případě, že dokážeme UI využít, nehrozí, že lidé, kteří "na sobě budou pracovat, přijdou o práci" (ale musí na sobě pracovat a v přeorientaci vzdělávacích, výchovných a výcvikových procesů tímto směrem nás čeká nejen dřina, ale i překážky).

4. Zformulujeme doporučení pro oblast špičkových forem vzdělání a zeptáme se UI, jaké k těmto doporučením má připomínky.

5. Shrneme, co z toho vyplývá pro konkretizaci vize a pro zefektivnění procesu pěstování vize.

(Pokračování)