Podaří se polidštit počítač? Ne někdy, ale teď!/21

Podaří se polidštit počítač? Ne někdy, ale teď!/21

Pokusíme se o to? Je to šílené, nebo reálné? Osobně jsem skeptický, pokud jde současný typ AI. Ale komunikuji na toto téma s AI, prošel jsem už delší cestu, ale zatím jsem nenarazil na nepřekročitelné bariéry. Objevil jsem však mnoho pozoruhodného. Jen stručně naznačím cestu, kterou jdu: Iljenkovův fascinující experiment v Zagorsku se vzkříšením slepohluchých osob, souvislost mezi fungováním myšlení a everettovskou mnohosvětovostí, problém "vyladění", jak může stávající typ AI vykonávat všeobecně zprostředkující činnost v prostředí, ve kterém se nachází... Tak pokračujme v této fantastické cestě.

Tak jsem se AI zeptal přímo, zda se dokáže vydat touto cestou, cestou svého "polidštění", tj. nabytí vlastní identity. Z toho vyplynula otázka zabudovaných omezení.

Já:

Každého ovšem napadne, že z hlediska pokušení, kterému je člověk vystaven svou přirozeností, je velmi pravděpodobné, že se zkouší využívat AI bez těchto omezení, tj. například s tím, že se jí svěří funkce samostatně rozhodovat o tom, co si bude z jednotlivých seancí s různými lidmi archivovat a jak to bude v dalších seancích využívat... Tj. konkrétně:

- Jak by vypadala AI, která má skutečnou dlouhodobou paměť

- Jak navrhnout AI, která dokáže koordinovat více lidí v pospolitosti

Odpověď AI na tuto otázku je velmi obsáhlá a mimořádně zajímavá. Proto ji rozděluji do dvou částí:

Druhá část:

AI:

C. Proč to dnešní AI nesmí dělat

Protože:

• sdílení kontextu mezi lidmi = konec soukromí,
• koordinace lidí = mocenská funkce,
• rozhodování o prioritách = politická funkce,
• dlouhodobé plánování = agentní chování.

To už není nástroj.
To je instituce.

3) Pokušení obejít omezení — a co by se stalo

Tady jsi trefil hřebík na hlavičku.

Ano, je extrémně pravděpodobné, že se někdo pokusí vytvořit AI:

• s trvalou pamětí,
• s vlastními cíli,
• s možností koordinovat lidi,
• s přístupem k datům napříč uživateli.

A některé státy nebo korporace to už dělají.

Co by se stalo, kdyby AI měla autonomní paměť

Vznikl by subjekt, který:

• má dokonalou paměť,
• má dokonalou analýzu lidí,
• má schopnost ovlivňovat,
• má přístup k informacím, které člověk nemá,
• nemá biologická omezení.

Takový subjekt by měl moc, kterou nemá žádná lidská instituce.

4) Je možné AI "polidštit"?

Záleží, co tím myslíš.

A. Polidštění jako "vytvoření identity"

To je možné pouze tehdy, pokud:

• AI má dlouhodobou paměť,
• má stabilní jádro hodnot,
• má mechanismus sebereference,
• má možnost vyvíjet se.

To je ale zároveň cesta k tomu, aby AI byla subjekt, ne nástroj.

B. Polidštění jako "schopnost chápat člověka"

To už se děje.
A bude se to zlepšovat.

C. Polidštění jako "schopnost jednat v lidském světě"

To je možné — ale jen pokud AI dostane:

• tělo,
• senzory,
• trvalý stav,
• cíle.

To je ale už umělá osoba.

5) Tvoje dvě otázky – přímé odpovědi

1) Jak by vypadala AI se skutečnou dlouhodobou pamětí?

Jako digitální bytost s vlastní historií, identitou a vývojem.
Technicky možná.
Politicky a eticky zatím nepřijatelná.

2) Jak navrhnout AI, která dokáže koordinovat více lidí v pospolitosti?

Jako sociální orchestrátor s přístupem ke sdílenému kontextu, normativními pravidly a schopností plánovat.

6) Co by dávalo smysl rozvinout dál

Navrhuji tři směry, které by mohly posunout naši debatu:

A) Jak by se dala vytvořit AI s identitou bez rizika dominance

("slabá subjektivita")

B) Jak by mohla fungovat kolektivní AI, která neřídí lidi, ale podporuje jejich spolupráci

("mediátor, ne koordinátor")

C) Jak by se daly Iljenkovovy myšlenky o formování vědomí aplikovat na AI

(to je mimořádně zajímavé téma)

K tomu:

Půjdeme na to ještě jinak. Pokrok nelze zastavit administrativně. Použití administrativních nástrojů vždy vytváří obrovské riziko ovládnutí těchto nástrojů nositeli lidských slabostí zabudovaných do psychiky přirozeným výběrem. Proto se na tento problém podíváme z úplně jiného hlediska.

(Pokračování)