Vysokoškolský učitel - Vysoká škola finanční a správní, první soukromá ekonomická univerzita

ip: V článku se objevily etické brzdy AI, jako obdoba tří zákonů "robotických" povídek I. Asimowa. Doporučují přečíst povídku I. Asimowa "A buď naň pamětliv ..." o polidšťování robotů. Dále co brání nejvyšším strukturám globální moci vytvořit AI zaměřenou na cíl bez uvedených etických brzd? Prostředky na to mají prakticky neomezené.

radimvalencik: Zatím jim brání jejich neumětelství. Zde je na místě i Lemova povídka o Modrých šroubcích.
Zákony Asimowa bych chtěl přepsat, tj. dám jim mnohem sevřenější logiku.

---
radimvalencik.pise.cz

dušan mišík: Kámen pouze trpně snáší vliv okolního prostředí na svůj povrch i vnitřní strukturu. Podléhá erozi, aniž by se jí jakkoli bránil. Živočich rovněž trpí vlivy prostředí, ale zároveň na ně aktivně reaguje – a to v míře odpovídající rozsahu jeho inteligence. Člověk musí vnější vlivy také částečně strpět, mnohem více však okolní prostředí sám ovlivňuje svou vědomou činností, která se odvíjí od rozsahu jeho znalostí.
Kámen necítí potřebu a neusiluje o její uspokojení. Živočich potřebu cítí – je pro něj nerovnováhou uvnitř samotného subjektu nebo mezi subjektem a okolím – a snaží se ji odstranit. Utíká před nebezpečím, vyhledává nebo loví potravu, hledá partnera k zachování druhu. Míra jeho inteligence určuje rozsah a úspěšnost reakce na vnější podněty.
Immanuel Kant rozlišoval nazírací mohutnost (smyslovost) a myšlenkovou mohutnost (rozvažování).
Umělá inteligence nedisponuje bezprostřední smyslovou zkušeností individuálního člověka. Může však využívat smyslovou zkušenost zprostředkovaně – tedy záznamy milionů lidí uchované na informačních nosičích. Její kapacita zpracování informací jí umožňuje v krátkém okamžiku nalézat souvislosti, které jsou pro jednotlivce kvůli ohromnému množství textů a dat nedostupné.
Umělá inteligence tedy nemá potřebu, nezná potřebu a nemusí ji uspokojovat. Má vyšší nazírací mohutnost (byť zprostředkovanou) a také vyšší myšlenkovou mohutnost, než jakou disponuje jednotlivý člověk.
V budoucnosti bude rozhodovat, čí potřeby budou tyto dvě mohutnosti uspokojovat. Zda to bude vybraná vládnoucí menšina. A také bude záležet na tom, zda bude většina s mírou uspokojení svých potřeb spokojena. Potřeby samy o sobě neznají hranic, zatímco zdroje planety jsou omezené. A konečně: existují potřeby a pseudopotřeby. Jejich vzájemné rozlišení závisí na nazírací mohutnosti (smyslovosti) a myšlenkové mohutnosti (rozvažování).
Tím se dostáváme do kruhu, do antinomií. Východiskem je formální logika, její postgraduální nadstavba – dialektická logika – a něco z Nietzscheho nadčlověka: překonávání bolesti, nepřízně osudu, schopnost nevzdávat se. Zkrátka nechovat se jako chamtivá žena rybáře, který chytil zlatou rybku. Nestačilo jí dostat nové necky, chtěla být královnou a poroučet Měsíci i Slunci.