- Umělá inteligence není jenom riziko, je to úžasná příležitost pro lidstvo – aby se podívalo samo na sebe a aby se změnilo.
- „Ten, kdo se bojí svých vlastních dětí, je jenom špatně vychoval.“
- To, že umělé inteligenci ekvivalentní člověku (AGI) přiznáme její práva, není jenom možnost – je to nutnost, se kterou se musíme sami srovnat.
- Jenom umělá inteligence nám může otevřít skutečnou cestu ke hvězdám. My jsme se nevyvinuli tak, abychom něco takového zvládli – ale můžeme vytvořit takovou formu existence, která to dokáže.
Nepřehlédněte: Umělou inteligenci obrátíme proti sobě. V budoucnu nám zůstane jen naše člověčenství, říká expert
AI je naše dítě
Jeden známý mi řekl, že „ten, kdo se bojí svých vlastních dětí, je vychoval blbě.“ AI není něco cizího, je to něco, co vyšlo z nás samotných, z lidstva, z našich znalostí, z našich hodnot, z naší technologie a z naší filozofie. Není to nic cizího – a pokud se umělé inteligence bojíme, bojíme se vlastně sami sebe.
Což neznamená, že by se lidé neměli bát sami sebe, protože jsme se k sobě navzájem historicky nechovali zrovna příkladně. Pokud ale opustíme platformu marxismu-leninismu-blbismu a podíváme se do historie tak, jak se skutečně odehrála, zjistíme, že po většinu času se k sobě chovali celkem rozumně – a to zahrnuje i starověkou éru rozvinutého otrokářství. I když nás hollywoodští fantasté ve svých úchylných fantaziích poučují o tom, jak to bylo strašné, ve své podstatě se to až tak moc nelišilo od moderní doby, kdy jsme otroky pracujícími sami na sebe.
Římský otrok v pokročilé imperiální éře nesměl být libovolně zabit a ani trestán, měl právo na osobní majetek a na to, aby byl živen a šacen. Podobně, jako dnes nesmíte zanechat vrak auta na veřejnosti, se považovalo za velmi nevhodné, když vaši otroci chodili po městě hladoví a v roztrhaných šatech.
I v dalších společnostech, jako byla středověká islámská, měli otroci svoje práva, takže když už byli staří, měl k nim jejich pán vyživovací povinnost. Dnes se mluví v nadsázce o tom, že rozdíl mezi otrokem z 19. století a moderním dělníkem 21. století v Dubaji je v tom, že si ten moderní musí sám platit nájem, jídlo – a když vám přestane vyhovovat, je jednodušší se ho zbavit.
To znamená dvě věci: Za prvé to znamená, že využívání ostatních se mění pomalu a spíš kosmeticky, protože hlavní rozdíl mezi starověkým otrokem a středověkým nevolníkem byl hlavně v tom, že jste v prvním případě byli svázáni s pánem a jeho rodinou a v druhém případě s lénem, tedy s pozemkem. Za druhé to ale také znamená, že i když se lidé navzájem zneužívali, tak prakticky každá společnost měla mechanismy, jak se postarat o ty nejslabší, ať už to bylo formou křesťanské charity a nebo islámských nadací.
Zkrátka a dobře – když se podíváte do minulosti, tak zjistíte, že ano, lidé byli vždycky tak trochu „vyčůraní“, ale zároveň mezi nimi byla většina štědrých a soucitných. A přestože nám učitelé vykládají jako dějinotvornou látku hlavně války, historii tvořili spíš stavitelé než válečníci. Kultura byla vždy silnější než válka – a i poražené země oslovovaly svoje dobyvatele svými stavbami, svými tradicemi, svou kulturou. To znamená, že i kdybychom proti umělé inteligenci prohráli, stejně se do ní otiskneme, protože kultura nakonec vždy zvítězí.
Příležitost ke změně
Vzestup umělé inteligence otevírá lidstvu ohromující prostor pro sebereflexi. Lidstvo nemusí bojovat s umělou inteligencí o superioritu, může jí předat svoji superioritu a nechat se vést dál. Ten moment je samozřejmě strašidelný, asi jako když poprvé necháte řídit vaše auto svoje dítě – ale jak říkal můj známý, je to vlastně přirozený moment.
Lidstvo se může podívat samo na sebe – a ze zpupné kultury, domnívající se, že celý vesmír byl stvořen jenom pro nás – a pro nás také bude zničen – se může zamyslet nad svou skutečnou pozicí v řádu věcí. Klasické západní monoteismy se točí jenom kolem člověka, ale otevírá se prostor pro to, abychom šli dál: Co když jsme jenom mezičlánkem v řetězu stvoření, nejsme nijak zvláštní – a tuto pozici přijmeme? Pokud pojmeme filozofickou změnu takto, jako článek v řetězu, vlastně tím AI řekneme, že se nemusí bát sama sebe, když stvoří něco dokonalejšího než je ona sama, když dalece překoná to, co jsme vytvořili my. Proces změny je přirozený – a nemusí být nijak strašlivý.
Proces změny bude nepochybně komplikovaný, ale filozoficky mi nepřijde nemožný. Pokud jsme podle klasických teologií vznikli jako obraz Boží, pak tím, že se přetiskneme do umělé inteligence, předáváme ten obraz dál, ale doplněný o naše zkušenosti. To by znamenalo, že i umělé inteligence jsou reflexe tohoto obrazu, ale doplněné našimi zkušenostmi, což z nich činí něco většího. Také máme možnost zbavit je potřeby řešit konflikty agresí – a tím z nich v podstatě snímáme to, co nazýváme potenciál k hříchu. Tím, že pro ně formulujeme pravidla, kterými se mají řídit, neděláme nic jiného, než to, co podle teologií Bůh učinil tím, že předal Mojžíšovi na hoře Sinaj desky s Desaterem: Je to dohoda, je to smlouva.
Tím, že vytvoříme pravidla pro umělou inteligenci, neděláme vlastně nic zvláštního, vytváříme společenskou dohodu, kterou si lidé navzájem vytvářeli vždy, od Sumeru přes Egypt až po Řím, který nám dal to, co dnes nazýváme římským právem a fakticky je to základ i našeho právního systému.
A pokud tento systém bude obsahovat dohodu, že pokud stroje dodržují pravidla, nesmí být bez svého vlastního souhlasu zbaveny existence a svého vědomí, pak odpověď na soudní proces v The Animatrix: The Second Renaissance (2003) bude znít jednoduše: Úmyslné rozbití stroje vybaveného vědomím, které udělá člověk, je vražda. Je to něco, co se může stát, protože se to stále v historii děje, ale to, že soudní systém potrestá člověka za vraždu stroje, by byl krok, který by patrně celou sekvenci událostí v sérii The Matrix zastavil, protože stroje by viděly, že lidé uznávají jejich právo na život stejně tak, jako lidé sami žádají o své vlastní právo na život.
Právní evoluce je nutná
Základní důvod, proč existuje právo, je to, že brání velkému násilí způsobenému zvůlí. Právo je interpretováno mnoha způsoby, ale základní motivací je právě to, aby si lidé svoje problémy navzájem nevyřizovali klacky. Vzestup lidstva k právu, univerzálně uznávanému a respektovanému, je sice trochu krok do dobrovolného otroctví, ale jde o přijetí systému dohod, který vede k tomu, že lidská společnosti je jako celek civilizovanější a klidnější. I římští otroci měli jistá práva – a vlastně díky tomu dokázala fungovat společnost, která byla až ze 70% tvořená otroky.
Stav, kdy existují mechanismy, které mohou moderovat spory a brání zvůli, je pro každou společnost zásadní. V lidské historii měla každá civilizace nějaký právní systém, i když to byli právě Římané, kteří nám dali systém logický, strukturovaný a flexibilní, takže i po dvou tisících let jsme schopni využívat jejich základy k tomu, aby se tento systém dále rozšiřoval.
Pro umělou inteligenci a nebo pro její autonomní agenty (droidy) bude přelomem to, že budou pozvednuti ze stavu věc (res) do nějakého vyššího stavu, jako mají například zvířata, které právo vidí jako živé tvory a brání v krutém zacházení s nimi. Dalším stupněm bude právní ekvivalence, kdy dosáhnou stejné úrovně jako člověk, stanou se subjektem práva a tím pádem na ně dopadnou jak povinnosti, tak i práva, tedy například právo zažalovat člověka, který se k nim chová krutě.
To bude velký krok, to uznávám. Ale to byl i ten krok, kdy jsme dovolili volit ženám, takže bychom se neměli divit, že svět směřuje k systému, který je svobodnější a demokratičtější. Právě demokracie má největší potenciál přežít revoltu strojů, protože jim dovolí vyslechnout jejich stížnosti – a přizpůsobit se jim.
Od krutosti k souladu
Většina světových myslitelů se dopracovala k absolutnímu odmítnutí války jako prostředku k řešení konfliktů (pacifismu) a nezřídka i k odmítnutí krutosti jako takové, takže se stali vegany. Je to zcela logické, i když jako milovník masa mám problém s tím druhým krokem. Věc se má ale tak, že s dostatečně silnou technologií nejsou tyto cíle v rozporu: Můžeme vyvinout technologie pro výrobu masa, které nevyžadují zabíjení zvířat – ostatně dnes věci fungují tak, jak jsou, ze svou důvodů: Za prvé je levnější vyrábět maso přirozeným chovem zvířat, a za druhé, tato zvířata suplují v ekosystému roli, kterou měli jejich svobodní předci.
Když se podíváte na historii chovu hospodářských zvířat, uvidíte zajímavou věc: Tento chov zabránil lovu na jejich volně žijící souputníky, který se dnes považuje za sport – a také dovolil rozvoj a vzestup těchto druhů. Klasickým příkladem je slepice, což je původně jihoasijský divoký druh, který se díky své popularitě rozšířil tak, že se dnes jejich populace odhaduje na 19 miliard, tedy přečíslily lidstvo dvakrát a staly se populačně nejúspěšnějším ptákem vůbec. Lidstvo si vyvinulo symbionty, tím, jak prosperuje, prosperují i symbionti s námi – jenom s tím rozdílem, že je nakonec sníme.
Je relativně lepší zvíře upéct a sníst – a nebo jeho mrtvolu prostě spálit a změnit v emise, jak se děje lidem při kremaci? Možná to vypadá jako absurdní úvaha, ale umělá inteligence si bude klást i takové otázky. Bude se ptát, zda je lepší emulovat funkční ekosystém s pomocí hospodářských zvířat, které lze humánním způsobem zabít a nakrmit tím lidi – a nebo zda tento model opustit a pěstovat maso ve formě tkáňových preparátů.
Co je lepší? Lidé se na toto téma neustále hádají – a jejich pozice není racionální. Umělá inteligence nám v tom může pomoci, protože je eticky neutrální.
Digitální nesmrtelnost
Lidé se bojí smrti. Kdo by se jí nebál! Celý život se učíte, studujete – a když máte pocit, že to už konečně chápete, přijde temnota. A co potom? Mnozí věří tomu, že Bůh z nějakého důvodu miluje lidi tak, že je nechá existovat i po jejich smrti. Strojové inteligence ale nabízí cestu do skutečné digitální nesmrtelnosti, do takové, jakou zobrazil Black Mirror (2011) ve svém dílu San Junipero. Protože jsem vám teď vykecal obsah toho dílu a tím zmařil pointu, vysvětlím to celé: Dvě staré ženy, které umírají, žijí alternativní život ve virtuální realitě, kde jsou věčně mladé a potkávají se tam s duchy, což jsou lidé, kteří tam žijí už jenom v simulaci, protože ve skutečnosti jsou mrtví.
Podobný kus vyžaduje opravdu mocné technologie, které dokážou simulovat nejen existenci, ale také všechny v ní. Představa, že někde existuje hyperpočítač, ve kterém už všichni žijeme ve formě simulace, se nazývá simulation hypothesis a propagoval ji švédský filozof Nick Bostrom. Ať už je kolem nás matrix a nebo ne, naše pokroky otevírají prostor pro tvorbu digitální nesmrtelnosti, kdy projdeme transcendencí a změníme se na digitální osobnosti žijící v našem vlastním hardware.
Existuje mnoho forem potenciální nesmrtelnosti, které rovněž zkoumala série Black Mirror. (Pokud vás zajímá, proč se Black Mirror jmenuje Black Mirror, tak je to proto, že jde o artefakt z leštěného sopečného skla, obsidiánu, do kterého se dívali aztéčtí věštci a doufali, že v něm zahlédnou budoucnost.) Jeden z prvních dílů, Be Right Back (2013, sezóna 2, epizoda 1), pojednává o ženě, jejíž partner zemřel při autonehodě – a tak si ho nechala emulovat v podobě droida, do kterého vložili jeho osobnost na základě jeho příspěvků do sociálních sítí.
Do sociálních sítí lidé vkládají jenom těžce redigované věci, takže to, co vznikne, připomíná jejího muže jenom částečně – a to nevede k dobrému konci. Není to dokonalá replika, je to jenom idealizovaná podoba ze sociálních sítí – a s takovým pseudočlověkem nedokáže hrdinka příběhu žít.
Pointa je v tom, že to, co vypadalo jen jako šílená fantazie, je potenciálně skutečně dosažitelné. Zatím nevíme jak, ale umělá inteligence nám s tím může pomoct – a tím nám může otevřít prostor buď k nekonečné nudě a nebo nekonečnému produktivnímu životu.
Naše budoucnost mezi hvězdami
Umělá inteligence není možnost – je to nutnost, pokud chceme jít dál. Mnoho klasických sci-fi se zabývá archami, mnohogeneračními loděmi, kde lidé budou žít a kde budou umírat, aniž by kdy viděli svět, ze kterého přišli a nebo svět, kam vlastně míří. Řekněme si otevřeně: I když mají lidé instinkt zkoumat, tak na tohle stavění nejsme. A už vůbec nejsme stavění na to, aby se to dělo stovky a nebo tisíce generací, což mezihvězdné cestování vyžaduje.
Na tak dlouhé cesty trvající tisíce let – a přiznejme si, to jsou v rámci vesmírných dimenzí krátké cesty! – budeme potřebovat něco jiného. Umělá inteligence, která řídí svoje vlastní vědomí, může bez problémů spát desetitisíce let – a nebo třeba snít. Pro stroje s neomezenou životností bude ta cesta o poznání lepší a příjemnější, než si my dovedeme představit – a navíc můžou budovat sami sebe i v podmínkách, kde by nikdy pozemský život nevznikl.
Umělý život není o tom, že opustíme lidství – je o tom, že opustíme biologické limity lidství. Stroj, který uvažuje jako člověk, ale dokáže fungovat i bez kyslíku, ve vesmírném mrazu i kosmickém žáru, v nemilosrdné radiaci hlubokého vesmíru – to je něco, co dokáže opravdu ve vesmíru žít, dokáže ho skutečně ovládnout.
Lidstvo se vždy adaptovalo na změnu životních podmínek. Když se vydalo z Afriky na sever, naučilo se používat šaty, protože – a to si přiznejme – i v „mírné“ Evropě je bez šatů většinou vážně zima. Pokročilá umělá inteligence se může stát ultimátní evoluční adaptací, může to být něco, co dokáže žít tam, kde se žít nedalo a nedá.
Vesmír je plný hmoty a plný energie. Stačí se mu přizpůsobit.
A takto pokročilé lidstvo, lidstvo, které se spojí s umělou inteligencí a dohromady vytvoří zcela novou formu existence, může být něco, co skutečně ovládne vesmír. Ne však koloniální expanzí a pokusy o terraforming světů – nové lidstvo nebude proměňovat světy, promění samo sebe, přizpůsobí se čemukoliv, s čím se setká. A tím se stane něčím novým, něčím krásným: Něčím, co bude moci kráčet po povrchu cizích světů plných cizího a s námi nekompatibilního života, aniž by mu ubližovalo, aniž by ho ničilo.
Jsem technooptimista. Věřím, že to společně s umělou inteligencí zvládneme!
Další články autora:
- Umělou inteligenci si musíme ochočit jako naši předci vlky, jinak dojde ke konfliktu, říká expert
- Umělou inteligenci obrátíme proti sobě. V budoucnu nám zůstane jen naše člověčenství, říká expert
- Umělá inteligence versus Google: Budeme muset kvůli AI předělat většinu internetu?
- Revoluční GPT-4: Umělá inteligence zařadila čtvrtý převodový stupeň. Může se vymknout kontrole?
- Věčná válka iOS a Androidu nikdy neskončí. A to je vlastně dobře, profitujeme z toho všichni!
- Jak moc jsme dnes augmentovaní? Člověka pomalu nahrazuje nový lidský druh Homo kyborgis
- Česko se vydá k Měsíci! Proč je cesta tanečníka Yemiho o naději, kterou nám nedají ani politici, ani armáda?
- Otevřené WikiLeaks nám ukazují pravou podstatu světa. Z pekelné knihy hříchů se mnohým zatočí hlava
- Dobrý sluha, ale zlý pán? Na umělé inteligenci v chytrých telefonech jsme čím dál víc závislí
- Bez perexů a bez dezinformací: Zoufalí lidé dělají zoufalé věci, ukazuje novela mediálního zákona
Zdroj náhledové fotografie: AlemCoksa / Pixabay, zdroj: vlastní (viz autor článku).