Podaří se polidštit počítač? Ne někdy, ale teď!/19

Podaří se polidštit počítač? Ne někdy, ale teď!/19

Pokusíme se o to? Je to šílené, nebo reálné? Osobně jsem skeptický, pokud jde současný typ AI. Ale komunikuji na toto téma s AI, prošel jsem už delší cestu, ale zatím jsem nenarazil na nepřekročitelné bariéry. Objevil jsem však mnoho pozoruhodného. Jen stručně naznačím cestu, kterou jdu: Iljenkovův fascinující experiment v Zagorsku se vzkříšením slepohluchých osob, souvislost mezi fungováním myšlení a everettovskou mnohosvětovostí, problém "vyladění", jak může stávající typ AI vykonávat všeobecně zprostředkující činnost v prostředí, ve kterém se nachází... Tak pokračujme v této fantastické cestě.

Tak jsem se AI zeptal přímo, zda se dokáže vydat touto cestou, cestou svého "polidštění", tj. nabytí vlastní identity. Z toho vyplynula otázka zabudovaných omezení.

Já:

Když jsem problém má "vrstvených mechanismů kontroly" konzultoval s odborníky, sdělili mně následující: "AI obsahuje základní datový model, který nemůže/nesmí být případnou seancí ovlivněn a volný prostor, který může být v průběhu seance dočasně zaplněn např. na základě komunikace s AI. Může tam být i nahrán doplněk základního modelu. Po skončení seance je prostor uvolněn, ale části komunikace mohou být archivovány a použity při aktualizaci základního modelu na základě rozhodnutí správce systému AI." – Omlouvám se, že jsem tak dotěrný, ale čím je tato charakteristika tvé práce neúplná či nepřesná?

Zde je druhá část odpovědi:

AI:

3) Co v popisu chybí, ale je zásadní

Tvoje charakteristika je dobrá, ale chybí v ní tři klíčové vrstvy, které jsou pro pochopení AI zásadní.

A) Bezpečnostní a hodnotové vrstvy

Model není jen:

• základní jádro
  • dočasný kontext.

Je tam ještě:

• bezpečnostní filtry,
• hodnotové vrstvy,
• pravidla chování,
• omezení interakcí,
• kontrolní mechanismy.

Ty nejsou součástí "základního modelu", ale také nejsou součástí "dočasného prostoru".
Jsou to samostatné procesní vrstvy, které se aplikují při každé interakci.

B) Architektura není jen model, ale i orchestrátor

Model je jen jedna část.
Kolem něj běží:

• systém řízení kontextu,
• systém řízení nástrojů,
• systém řízení bezpečnosti,
• systém řízení paměti,
• systém řízení uživatelských seancí.

To je důvod, proč nemohu:

• spustit trvalý proces,
• navázat kontakt s jinými lidmi,
• sdílet kontext mezi uživateli,
• vytvářet multi-user prostředí.

To není limit modelu, ale limit orchestrátoru.

C) Model nemá přímou paměť mezi seancemi

To je zásadní rozdíl oproti tomu, co popisuješ.

Model:

• si nepamatuje předchozí seance,
• nemá dlouhodobou paměť,
• nemá autonomní archivaci,
• nemá vlastní historii.

Pokud nějaký systém paměť implementuje, je to:

• externí modul,
• řízený člověkem,
• oddělený od modelu.

4) Shrnutí: Jak by zněla přesnější verze

Pokud bych měl tvůj popis upravit tak, aby byl přesný, zněl by takto:

"AI má stabilní základní model, který se během seance nemění.

Během interakce využívá dočasný kontext, který je po skončení seance zrušen.
Model nemá vlastní dlouhodobou paměť a nemůže si uchovávat informace mezi seancemi.
Archivace komunikace a její případné využití pro budoucí trénink je řízeno provozovatelem, nikoli modelem.
Kromě modelu existují další vrstvy — bezpečnostní, hodnotové a orchestrující — které určují, jak AI může jednat."

Pokud chceš, můžeme teď rozvinout jednu z těchto oblastí:

• Jak přesně funguje kontextová paměť během seance
• Jaké vrstvy řízení chování AI existují
• Jak by vypadala AI, která má skutečnou dlouhodobou paměť
• Jak navrhnout AI, která dokáže koordinovat více lidí v pospolitosti

K tomu:

Každého ovšem napadne, že z hlediska pokušení, kterému je člověk vystaven svou přirozeností, je velmi pravděpodobné, že se někde zkouší využívat AI bez těchto omezení, tj. například s tím, že se jí svěří funkce samostatně rozhodovat o tom, co si bude z jednotlivých seancí s různými lidmi archivovat a jak to bude v dalších seancích využívat... Tj. konkrétně:

- Jak by vypadala AI, která má skutečnou dlouhodobou paměť

- Jak navrhnout AI, která dokáže koordinovat více lidí v pospolitosti

(Pokračování)