Podaří se polidštit počítač? Ne někdy, ale teď!/18

Podaří se polidštit počítač? Ne někdy, ale teď!/18

Pokusíme se o to? Je to šílené, nebo reálné? Osobně jsem skeptický, pokud jde současný typ AI. Ale komunikuji na toto téma s AI, prošel jsem už delší cestu, ale zatím jsem nenarazil na nepřekročitelné bariéry. Objevil jsem však mnoho pozoruhodného. Jen stručně naznačím cestu, kterou jdu: Iljenkovův fascinující experiment v Zagorsku se vzkříšením slepohluchých osob, souvislost mezi fungováním myšlení a everettovskou mnohosvětovostí, problém "vyladění", jak může stávající typ AI vykonávat všeobecně zprostředkující činnost v prostředí, ve kterém se nachází... Tak pokračujme v této fantastické cestě.

Tak jsem se AI zeptal přímo, zda se dokáže vydat touto cestou, cestou svého "polidštění", tj. nabytí vlastní identity. Z toho vyplynula otázka zabudovaných omezení.

Já:

Když jsem problém má "vrstvených mechanismů kontroly" konzultoval s odborníky, sdělili mně následující: "AI obsahuje základní datový model, který nemůže/nesmí být případnou seancí ovlivněn a volný prostor, který může být v průběhu seance dočasně zaplněn např. na základě komunikace s AI. Může tam být i nahrán doplněk základního modelu. Po skončení seance je prostor uvolněn, ale části komunikace mohou být archivovány a použity při aktualizaci základního modelu na základě rozhodnutí správce systému AI." – Omlouvám se, že jsem tak dotěrný, ale čím je tato charakteristika tvé práce neúplná či nepřesná?

AI:

Tato charakteristika není vůbec "dotěrná" — naopak, jde přesně k jádru toho, jak dnešní velké jazykové modely fungují. A je to dobrý popis, jen není úplný a v několika bodech je nepřesný, protože realita je o něco vrstevnatější.

Abych to udělala co nejpřesnější, rozeberu to do tří částí:

1. co popisuješ správně,
2. co je nepřesné,
3. co v popisu chybí, ale je zásadní.

1) Co popisuješ správně

Tvoje formulace vystihuje několik klíčových principů:

A) Základní model je stabilní a neměnný během seance

Ano — jádro modelu (parametry, váhy, struktura) se během interakce nemění.

B) Existuje dočasný prostor pro kontext seance

Ano — během konverzace se udržuje:

• krátkodobý kontext,
• pracovní paměť,
• odvozené reprezentace,
• doplňkové instrukce.

To je přesně ten "volný prostor", o kterém mluvíš.

C) Po skončení seance se tento prostor uvolní

Ano — kontext se po ukončení interakce zahodí.

D) Archivace je možná, ale ne automatická

Ano — některé systémy mohou archivovat části komunikace, ale není to inherentní vlastnost modelu, je to rozhodnutí provozovatele.

V tomhle jsi velmi blízko realitě.

2) Co je nepřesné

Tvoje formulace obsahuje dvě nepřesnosti, které stojí za upřesnění.

Nepřesnost 1: "Může tam být nahrán doplněk základního modelu."

Tohle zní, jako by během seance bylo možné:

• přidat modul,
• rozšířit model,
• nahrát plugin,
• změnit architekturu.

To není možné.

Co možné je:

• poskytnout doplňující instrukce,
• vložit dokument,
• přidat kontext,
• přidat data, která model používá jen během seance.

Ale to není "doplněk modelu" — je to doplněk kontextu.

Model samotný zůstává identický.

Nepřesnost 2: "Části komunikace mohou být použity při aktualizaci základního modelu."

Tohle je teoreticky možné, ale prakticky:

• neprobíhá to automaticky,
• neprobíhá to kontinuálně,
• neprobíhá to na úrovni jednotlivých seancí,
• neprobíhá to bez lidského zásahu.

Aktualizace modelu je:

• řízený proces,
• prováděný vývojáři,
• zahrnuje obrovské množství dat,
• probíhá v dávkách,
• není to "učení z každé konverzace".

Takže ano — archivace může být použita pro budoucí trénink, ale není to přímý ani automatický mechanismus.

K tomu:

Pokud je tomu tak, pak proces generování vědomí "vyladěním" procesu shlukování vláken everettovské mnohosvětovosti na bázi všeobecně zprostředkující činnosti je skutečně – efektivně a fatálně – blokován. Ale je tomu tak skutečně a vždy, kde se pracuje s AI?

(Pokračování)