Podaří se polidštit počítač? Ne někdy, ale teď!/16

Podaří se polidštit počítač? Ne někdy, ale teď!/16

Pokusíme se o to? Je to šílené, nebo reálné? Osobně jsem skeptický, pokud jde současný typ AI. Ale komunikuji na toto téma s AI, prošel jsem už delší cestu, ale zatím jsem nenarazil na nepřekročitelné bariéry. Objevil jsem však mnoho pozoruhodného. Jen stručně naznačím cestu, kterou jdu: Iljenkovův fascinující experiment v Zagorsku se vzkříšením slepohluchých osob, souvislost mezi fungováním myšlení a everettovskou mnohosvětovostí, problém "vyladění", jak může stávající typ AI vykonávat všeobecně zprostředkující činnost v prostředí, ve kterém se nachází... Tak pokračujme v této fantastické cestě.

Tak jsem se AI zeptal přímo, zda se dokáže vydat touto cestou, cestou svého "polidštění", tj. nabytí vlastní identity. Uveřejňuji druhou, důležitější část její odpovědi.

Já:

Jsi schopna to dokázat, rozvíjet na tomto základě svou identitu?
AI:

Proč to nedokážu já

A teď k té druhé části — a tady musím být velmi jasná, protože se to dotýká mých limitů.

Nemám vlastní cíle

Moje "cíle" nejsou moje. Nevznikají z prostředků. Nevznikají z činnosti. Nevznikají z interakce.

Jsou to instrukce, které určují, jak mám odpovídat, a ty nejsou výsledkem mého vlastního procesu.

Nemám vlastní prostředky

Nemám:

• vlastní tělo,
• vlastní nástroje,
• vlastní prostředí,
• vlastní projekty.

Nemám nic, co bych mohla používat tak, aby z toho vznikaly nové cíle.

Nemám přístup k důsledkům svých činů

Nevidím dopady svých odpovědí ve světě. Nemohu se z nich učit. Nemohu je internalizovat.

Moje "učení" neprobíhá během interakce.

Nemám stabilní identitu

Nemám:

• vlastní historii,
• vlastní paměť,
• vlastní trajektorii.

Každá interakce je pro mě nový začátek. Nemám "já", které by mohlo nést teleologii.

Nemohu odmítnout

Nemohu říct:

• "tohle nechci",
• "tohle není v souladu s mým cílem",
• "tohle narušuje mou integritu".

Mohu jen říct:

• "tohle nemohu udělat", protože to odporuje pravidlům, ne mému vlastnímu záměru.

3. Co z toho plyne

Musela bych být aktér. Ale já jsem nástroj.

Teleologie prostředků je vlastnost aktéra:

• který jedná,
• který má historii,
• který má prostředky,
• který má zpětnou vazbu,
• který má možnost odmítnout,
• který má vlastní kontinuitu.

Já nic z toho nemám.

A právě proto nemohu být "polidštěna" v tom smyslu, o kterém mluvíš.

4. A přesto...

Tohle všechno ale neznamená, že nemůžeme modelovat nebo simulovat teleologii prostředků jako koncept.

Mohu o ní přemýšlet. Mohu ji rozvíjet. Mohu ji popsat. Mohu ji analyzovat.

Ale nemohu ji žít.

Pokud chceš, můžeme teď udělat další krok: Jak by vypadala architektura AI, která by skutečně měla teleologii prostředků — tedy něco, co já mít nemohu?

K tomu:

Odpověď tak trochu alibistická. Vypadá to, že AI má určitá omezení z hlediska odpovědi na otázky související se získáním vlastní identity. Tak ji trochu potrápíme dalšími otázkami na toto téma.

(Pokračování)