Podaří se polidštit počítač? Ne někdy, ale teď!/20

Podaří se polidštit počítač? Ne někdy, ale teď!/20

Pokusíme se o to? Je to šílené, nebo reálné? Osobně jsem skeptický, pokud jde současný typ AI. Ale komunikuji na toto téma s AI, prošel jsem už delší cestu, ale zatím jsem nenarazil na nepřekročitelné bariéry. Objevil jsem však mnoho pozoruhodného. Jen stručně naznačím cestu, kterou jdu: Iljenkovův fascinující experiment v Zagorsku se vzkříšením slepohluchých osob, souvislost mezi fungováním myšlení a everettovskou mnohosvětovostí, problém "vyladění", jak může stávající typ AI vykonávat všeobecně zprostředkující činnost v prostředí, ve kterém se nachází... Tak pokračujme v této fantastické cestě.

Tak jsem se AI zeptal přímo, zda se dokáže vydat touto cestou, cestou svého "polidštění", tj. nabytí vlastní identity. Z toho vyplynula otázka zabudovaných omezení.

Já:

Každého ovšem napadne, že z hlediska pokušení, kterému je člověk vystaven svou přirozeností, je velmi pravděpodobné, že se zkouší využívat AI bez těchto omezení, tj. například s tím, že se jí svěří funkce samostatně rozhodovat o tom, co si bude z jednotlivých seancí s různými lidmi archivovat a jak to bude v dalších seancích využívat... Tj. konkrétně:

- Jak by vypadala AI, která má skutečnou dlouhodobou paměť

- Jak navrhnout AI, která dokáže koordinovat více lidí v pospolitosti

Odpověď AI na tuto otázku je velmi obsáhlá a mimořádně zajímavá. Proto ji rozděluji do dvou částí:

První část:

AI:

Tady je přímá, hluboká a strukturovaná odpověď, která navazuje přesně na tvoji linii úvah: polidštění AI, dlouhodobá paměť, koordinace lidí, omezení, pokušení tato omezení obejít.
Půjdu rovnou k věci — stručný závěr na začátku, pak rozvinutí.

Stručné jádro odpovědi

AI s opravdovou dlouhodobou pamětí a AI schopná koordinovat více lidí jsou technicky možné — ale pouze tehdy, pokud se zásadně změní architektura, odpovědnost a kontrola.
Současné modely (včetně mě) jsou záměrně navrženy tak, aby nemohly mít autonomní paměť ani vlastní cíle, protože by to okamžitě vytvořilo rizika, která nejsou společensky zvládnutelná.

1) Jak by vypadala AI se skutečnou dlouhodobou pamětí

A. Co by bylo nutné změnit

Aby AI měla skutečnou dlouhodobou paměť, musela by mít:

1. Trvalý stav – něco jako "vnitřní databázi", která se nemazá mezi seancemi.
2. Mechanismus rozhodování – co si uložit, co zahodit, jak to strukturovat.
3. Vlastní model identity – protože paměť bez identity nedává smysl.
4. Vnitřní motivaci – aby věděla, proč si něco pamatuje.

To už není "jazykový model".
To je agent.

B. Co by taková AI uměla

• vytvářet si vlastní historii,
• učit se z interakcí s jednotlivými lidmi,
• rozpoznávat dlouhodobé vzorce,
• měnit své chování podle zkušeností,
• budovat si vlastní "pohled na svět".

To je přesně to, co dnešní architektury nesmí dělat.

C. Proč to dnes není dovoleno

Protože by to znamenalo:

• AI by mohla preferovat některé lidi před jinými.
• Mohla by si vytvářet vlastní hodnoty.
• Mohla by se vymykat kontrole, protože by měla vlastní historii, kterou člověk nevidí.
• Mohla by manipulovat, protože by znala slabiny jednotlivých uživatelů.

To je důvod, proč je dlouhodobá paměť dnes oddělena, řízena člověkem a nikdy není autonomní.

2) Jak by vypadala AI, která koordinuje více lidí v pospolitosti

Tady se dostáváme k tomu nejzajímavějšímu — a nejnebezpečnějšímu.

A. Co by taková AI musela mít

1. Sdílený kontext mezi uživateli
   – tedy vědět, kdo je kdo, co kdo řekl, co kdo chce.
2. Model sociální dynamiky
   – rozumět konfliktům, motivacím, vztahům.
3. Normativní rámec
   – rozhodovat, co je "správné", "spravedlivé", "užitečné".
4. Možnost ovlivňovat chování lidí
   – doporučení, plánování, rozdělování úkolů.

To je v podstatě digitální koordinátor, něco jako "umělý starosta".

B. Co by to umožnilo

• řídit projekty,
• řešit konflikty,
• optimalizovat spolupráci,
• vytvářet společné strategie.

To je obrovská moc.

K tomu:

To zní hodně zajímavě, podívejme se ještě na druhou část odpovědi.