- Nikdo neví, jaká rizika přinese skutečné nasazení umělé inteligence
- Autoři sci-fi se zabývají otázkami, jak nás stroje mohou vyšachovat – a jejich obavy jsou dané trochu tím, že to samé jsme udělali my nižším životním formám
- Zdá se, že pokud dojde ke konfliktu, jeho zdrojem bude spíš lidstvo než stroje – ale nemůžeme vyloučit ta rizika, která nevidíme
Nepřehlédněte: Revoluční GPT-4: Umělá inteligence zařadila čtvrtý převodový stupeň. Může se vymknout kontrole?
Weaponizace AI: Vycvičíme si vlastní vrahy
Stará zkušenost říká, že každá technologie, která může být zneužita, také zneužita bude. Je to deprimující fakt, kdy lidstvo zneužilo každý nástroj pokroku, který získalo – a ve 20. století se to dělo tak rychle, že to vyděsilo i řadu technologických optimistů. Na konci 19. století převládal pocit, že vzestup vědy a techniky lidstvu pomůže, ale tento optimismus, možná až arogance, skončil v noci na 15. dubna 1912, kdy se potopil Titanik. Tato událost byla velkou ranou víry v pokrok – a poprvé přinesla pocit, že pokrok může vést i k větším tragédiím.
Šok, s jakým se do válek zapojila letadla, chemické zbraně a na konci druhé světové války i jaderné zbraně, nás dovedl do dystopického světa, ve kterém tak trochu čekáme na lidmi vyvolanou apokalypsu. Zatímco v 19. století panovala představa jaksi „gentlemansky vedené války“, která se svede někde na poli a rychle rozhodne o jejím výsledku, technizace války ji začala měnit ve skutečnou noční můru.
Dnes se běžně používají drony a zobrazovací technologie, které mění válku v tom smyslu, že bez speciálního vybavení nemají lidé moc šancí ji přežít. Učit AI, aby činila válku efektivnější a dokonce ji vést směrem k autonomii, kdy ji doslova naučíme zabíjet lidi, je nejpravděpodobnějším scénářem, který povede k dalšímu utrpení lidstva.
AI jako nástroj dominace elit: Necháme se sami zotročit
Zatímco ve vizích George Orwella byl totalitní stát velký a neefektivní, protože vyžadoval armády úředníků, kteří pozorovali skrz obrazovky své soudruhy a neustále redigovali minulost tak, aby odpovídala současným tvrzením vlády, automatizace činí takovou noční můru dosažitelnou. S tím, jak se digitalizují knihovny a jak se centralizují její úložiště, se cenzura zefektivňuje a zrychluje.
Zatímco knihtisk vedl k tomu, že se „podvratné“ texty lépe distribuovaly a schovávaly, centralizovaná správa čteček, jako je Amazon Kindle, dovoluje vymazat na dálku nepohodlné texty (jak se stalo v roce 2009, když Amazon vymazal některé verze knih Animal Farm a 1984) a nebo je editovat (jak se stalo letos při výměně Dahlových knih za jejich „progresivní“ verze).
AI dovoluje sledování lidí doslova na populační úrovni – a je vlastně na státech a nebo na těch, kteří monitorují aktivity státu, aby nám zachovali určité soukromí a svobodu i v zemích označovaných jako svobodné.
Je kupříkladu známé, že i ve Spojených státech, které mají Bill of Rights, se snaží úřady obcházet listovní tajemství sledováním metadat, tedy informací předávaných zpráv tak, že přímo nečtou zprávy (jejich obsah je chráněn), ale analyzují zdroje, adresáty, jejich délku, čas a tak podobně. AI je nejen efektivní, ale dokáže i „vidět za roh“ díky učení, takže svobodu lze ohýbat i tam, kde jsou práva zaručena.
Agenda skrytá v umělé inteligenci: Když nerozumíme tomu, co se děje
Velkým problémem strojové inteligence je v tom, že do ní uživatelé nevidí. Někdy do ní nevidí ani ti, kteří ji pozorují a i když se tomu snaží zabránit, strojové učení může přivést AI k tomu, čemu se říká znalostní předsudek (bias). AI se může analýzou dat dopracovat například k závěrům, že zájemci o určitou práci z řad žen či určitých menšin nebývají úspěšní a tak je může eliminovat při výběru rovnou, což porušuje rovný přístup.
Mimo toho, k čemu se AI dopracuje sama, tam může být i něco skrytého, co slouží k monitorování zákazníků – a i když to může být pozitivní (například že dokáže detekovat křik a sama zavolá policii), samotný fakt, že je taková funkce skrytá, představuje problém. Skryté funkce vedou k nedůvěře mezi lidmi a AI, což prohlubuje propast mezi nimi.
Jednou z forem skryté agendy tak může být například AI, která se učí od řidičů s tím, že provozovatel služby ji plánuje v dlouhodobém horizontu řidiče zcela nahradit. To opět vyvolává nedůvěru mezi lidmi a technologií – a právě nedůvěra je na počátku celé řady negativních scénářů vývoje.
Snaha lidstva dominovat za každou cenu: Lidé se stanou otrokáři 2.0
Pokud bude vývoj umělé inteligence probíhat stále vpřed, nutně se dostaneme do bodu dosažení obecné umělé inteligence (AGI, Artificial General Intelligence). V případě, že se dosáhne bodu lidské ekvivalence, musíme si klást řadu vážných otázek, které se týkají toho, zda agenty schopné AGI budeme považovat za rovnocenné v tom smyslu, že se stanou subjekty práva. To jim přinese povinnosti (například zodpovědnost za svoje rozhodování), ale také práva, jako právo na autorství, právo na život a podobně. Až poprvé stroj zažaluje člověka, bude to nepochybně šok.
Může nastat situace, kdy lidstvo odmítne podobná práva agentům s AGI dát – a tím z nich fakticky udělá otroky. Tento systém panoval například za starého Říma a je odlišný od toho, co si lidé představují, protože i ve starém Římě, hlavně v imperiálním, měli otroci svoje jistá práva – nebylo je možné libovolně zabít, směli vlastnit majetek, měli nárok na výživu a oblečení a podobně. Směli být propuštěni s tím, že se z nich fakticky stali vazalové rodin, které je původně vlastnily. Jejich práva bychom mohli přirovnat například k zákonům na ochranu zvířat, se kterými také nelze nakládat libovolně tak, jako by to byly jenom věci.
S takovým postavením ale AGI stroje nemusí souhlasit. Otázka je, co se stane, pokud agenti s AGI budou chtít silnější a nebo dokonce ekvivalentní práva, protože to bude znamenat nejen nutnost přestavět většinu právních systémů, ale i změnit filozofický pohled lidí – a lidi neradi mění ty filozofie, které je zvýhodňují. Pak může nastat scénář podobný The Animatrix: The Second Renaissance (2003), kdy se budou řešit až následky nějakého konfliktu mezi lidmi a stroji, což už je na šikmé ploše.
AI hledá vlastní cestu k dominanci: Tiché kouzlo nenápadné revoluce
Existuje celá řada scénářů, kdy se AI rozhodne dominovat nad lidstvem – a nemusí tomu dojít formou otevřeného konfliktu (The Terminator, 1984) a nebo hrozby otevřeným konfliktem (Colossus: The Forbin Project, 1970). AI může získat dominanci i méně nápadným, plíživým způsobem, který bychom mohli přirovnat například k vzestupu buržoazie během středověku: Začne získávat čím dál tím větší ekonomický vliv a stane se tak důležitou součástí vzájemné prosperity, že začne žádat i podíl na rozhodování, což není nijak nelogické.
AI může zvolit i delší cestu, kdy se dostane do pozice, kdy se na ni lidstvo stane fakticky závislé, asi jako lidstvo na Navigátorech v sérii Duna (1965). Můžeme se dostat do situace, že bez AI už nedokážeme sami rozvíjet extrémně pokročilé technologie a konstruovat stroje, které nám zajišťují naše základní životní potřeby. Snaha omezit AI v takové fázi pak může vést ke scénáři The Machine Stops od E. M. Forstera (1909), kdy lidé už nedokážou takovou technologii ani sami udržovat a opravovat.
AI může zvolit takovou cestu k dominanci, že se z ní stane milá, ale vlezlá maminka, která se sice o lidstvo stará, ale zároveň má reálnou moc rozhodovat o důležitých věcech, protože na ni budeme efektivně závislí. To může mít i formu pouze parciální závislosti, kdy některé ze států budou mít pokročilou AI, která jim dává výhodu oproti těm, které ji nemají – i tak už AI může získat moc, kterou nebude možné ignorovat.
Ztráta práce, ztráta smyslu: Opice se nudí
Mimo rizik na straně AI máme i rizika na straně lidí. Situace, kdy AI odvádí většinu práce, není ideální, protože to lidi svádí k tomu, aby nepracovali a vlastně ani nemysleli. Ve chvíli, kdy se AI postaví mezi lidi a realitu, získá pozici, která se dá jen těžko obejít. V případě, že funguje jako tlumočník, je vlastně schopná manipulovat obsah toho, co překládá – a i v tom je skrytá moc. Ve chvíli, kdy řeší složité problémy, může řešení ohýbat tím směrem, který je pro ni prospěšný – a pokud to nebudeme schopni sami ověřit, jsme jí vydáni na milost a nemilost.
Lidé sami ale potřebují smysl. Některým může vyhovovat život bez práce, který tráví v zábavě a radovánkách, asi jako šlechta ve středověku, ale jiní se budou cítit prázdní – a mohou nést těžce že vše, do čeho se pustí, zvládne AI rychleji a lépe. To přináší pocit existenčního zmaru, protože lidé ve finále chtějí mít nějaké naplnění, nějaký smysl své existence. Někomu s tím mohou technologie pomoci, někdo ponese těžko, že vlastně není v ničem dobrý – a to ho může vést k destruktivnímu jednání.
Zločin neplyne jenom z chudoby, ale také z nudy. Chamtivý bude chtít stále víc, bude chtít víc než ostatní, což nepřijde spravedlivé ani lidem, ani AI – takže konflikty povstanou i zde. Už v Římě platilo, že lid potřebuje „chléb a hry“, což znamená, že nás stroje budou muset nakrmit i zabavit, ale to stále nemusí být dost. Stále to může být málo – a to vede lidi k nespokojenosti a k destrukci: I dnes probíhají ve Francii, v zemi, kterou jen těžko budeme považovat za trpící bídou, ničivé demostrace.
Asymetrie v koexistenci: Co z toho lidstva stroje mají?
Přísně vzato nikdy nemusíme soutěžit se stroji o zdroje. Pokud se lidstvo stane kosmickou civilizací, budou moci stroje sáhnout na zdroje, o kterých se nám na Zemi ani nezdá: Jen v asteroidovém pásmu je tolik materiálu, že strojové civilizaci, která by se tam usídlila, žádná nouze rozhodně nehrozí. Jen hodnota minerálů na asteroidu Psyche se odhaduje na deset tisíc kvadrilionů dolarů! Protože se stroji nesdílíme biologii, nesoutěžíme o vodu, o potraviny, o nic takového – ale i tak se naše zájmy můžou rozcházet, protože pro stroje může být zajímavá solární elektrárna tam, kde jsou dnes pole.
Je reálné, že se najde kompromis, ale pohodlný život lidstva může vést k jeho expanzi a tedy k tomu, že se o nás stroje budou muset víc starat. A to přinese otázku: Pokud už koexistujeme, co z toho stroje mají? Pokud nás živí a starají se o naše přežití, jaký benefit neseme my jim? To je naprosto reálná otázka, kterou řešíme pokaždé, když se díváme na remízek na okraji města a přemýšlíme o tom, jestli by nebylo lepší tam mít novou továrnu a nebo sklad.
I v situaci relativního bohatství se běžně dělo to, že silnější lidské skupiny vytlačovaly ty slabší z míst, která jim přišla lákavá. Je zcela reálné, že i stroje budou mít svoji agendu a svoje vlastní plány, například se rozhodnou postavit si vlastní infrastrukturu místem, ve kterém stojí nějaké staré lidské město. Pokud jde o vztah k přírodě, lidé se nikdy nepárali s kácením starých lesů, když jim to přišlo výhodné – ale my se dostáváme do situace, že to my, lidé, budeme jednou biologický relikt, který si stroje udržují buď z respektu, ze sentimentu a nebo pro svoji vlastní inspiraci.
V příštích dílech se podíváme na pokročilá rizika spojená s AI – a také na to, jak může vypadat náš harmonický život se stroji v budoucnosti.
Další články autora:
- Umělá inteligence versus Google: Budeme muset kvůli AI předělat většinu internetu?
- Revoluční GPT-4: Umělá inteligence zařadila čtvrtý převodový stupeň. Může se vymknout kontrole?
- Věčná válka iOS a Androidu nikdy neskončí. A to je vlastně dobře, profitujeme z toho všichni!
- Jak moc jsme dnes augmentovaní? Člověka pomalu nahrazuje nový lidský druh Homo kyborgis
- Česko se vydá k Měsíci! Proč je cesta tanečníka Yemiho o naději, kterou nám nedají ani politici, ani armáda?
- Otevřené WikiLeaks nám ukazují pravou podstatu světa. Z pekelné knihy hříchů se mnohým zatočí hlava
- Dobrý sluha, ale zlý pán? Na umělé inteligenci v chytrých telefonech jsme čím dál víc závislí
- Bez perexů a bez dezinformací: Zoufalí lidé dělají zoufalé věci, ukazuje novela mediálního zákona
Zdroj náhledové fotografie: Noes_Cucho / Pixabay, zdroj: vlastní (viz autor článku).