- Emergentní jev („vynořující se“) je neočekávané chování komplexního systému, které se objevuje jako vlastnost jeho celku.
- Emergence způsobuje, že i kolonie hmyzu vykazují organizované a efektivní chování, které je mimo schopnosti každého jejich člena.
- S tím, jak roste komplexita modelů umělé inteligence, musíme se připravit na emergenci neočekávaných typů chování, se kterými předem nikdo nepočítal.
Pojem emergence se objevil v roce 1875 a přišel s ním britský filozof George Henry Lewes. V době, kdy vědě vládl redukcionismus, si položil otázku, že když je vlastně všechno jenom fyzika, proč prostě veškerou vědu neomezit pouze na fyziku? Jeho odpovědí bylo to, že i když známe přesně chování fyzikálních elementů, tak jejich velké celky mají vlastnosti, které nejsou zjevné, ale vynořují se z nich.
Nepřehlédněte: „Ne, já nejsem robot“: Proč nám umělá inteligence lže, jak když tiskne?
Fyzika například dokáže přesně popsat chování písku, ale jen těžko vysvětlí konkrétní tvar dun v poušti – každá z nich je jiná, protože vznikala za jiných podmínek. Unikátní tvar krajiny proto nelze odvodit pouze ze základních fyzikálních vlastností, její výsledná podoba je jenom těžko předvídatelná.
Podobné je to se sněhovými vločkami: Každá je nakonec jiná, protože při pádu rostla pokaždé v mírně odlišných podmínkách. Přestože víme, jak růst vloček probíhá, neexistuje způsob, jak přesně předvídat výslednou podobu každé jedné z nich.
Růst navíc otevírá tolik možností, že je možné, že se nikdy žádná z vloček nebude přesně opakovat. Bohatství vloček je kombinace poměrně jednoduchých pravidel růstu a náhodných variací v prostředí, které se fakticky chová jako tvořivý chaos.
Evoluce a evoluční algoritmy
Ve světě je stále populární kreacionismus, tedy přesvědčení, že jen vyšší forma organizace dokáže vytvářet komplexní tvary a také život. Opírá se o termodynamické představy, které říkají, že v uzavřeném systému je entropie buď stálá a nebo roste, tedy podle nich nemůže z méně organizovaného vznikat organizovanější. To ale platí jen pro uzavřený systém jako pro celek.
Evoluční algoritmy jsou naopak založené na představě, že můžeme vytvářet nové věci naslepo, doslova metodou pokus-omyl. Vytvoří se první generace výstupů a ty se otestují vůči takzvané kriteriální funkci, která posuzuje, jak moc výsledek vyhovuje tomu, co chceme dosáhnout. Pak se vyhodí ty s nejhoršími výsledky a ty s nejlepšími se nechají mutovat v další generaci, kde se budou znova testovat a tak dále a tak dále, až dosáhneme požadovaných vlastností. Z hlediska evolučních algoritmů je jedno, jestli se tímto systémem pokoušíme vyvinout co nejúčinnější kompaktní anténu (jak udělala NASA u projektu ST5 Evolved Antenna) – a nebo třeba organismus, který umí co nejrychleji chodit.
Evoluční algoritmy jsou velmi jednoduché, ale tím, že pracují s mnoha výstupy najednou, dokážou překvapivě efektivně hledat optimální řešení, tedy alespoň „dostatečně dobrá“ lokální optima. Obrovská výhoda evolučních algoritmů je v tom, že nemusíme vědět nic o detailech řešení, stačí využít náhodu, modifikovat a testovat. A právě zde se ukazuje, že náhoda je nesmírně tvořivá – a dokáže často najít řešení, které by bylo pro klasický analytický návrh velmi komplikované a neobvyklé. Ostatně: I klasičtí inženýři se obvykle inspirovali přírodou, která se dokázala propracovat k nesmírně efektivním řešením, stačí jen evoluční tlak a dostatek času.
Když se mraveniště chová jako superpočítač
Emergence je schopná řešit i překvapivě složité úlohy. V roce 1992 se objevila doktorandská práce Marca Doriga, ve které popisoval schopnost mraveniště vyřešit takzvaný problém obchodního cestujícího, který spočívá v nalezení nejkratších tras od zdrojů potravy k mraveništi. Řešení, které „vynalezli“ mravenci, je tak efektivní, že se mu dnes říká „mraveništní optimalizace“ (Ant colony optimization) – a přitom je založené na překvapivě jednoduchém postupu a na faktu, že mravenců je prostě hodně.
Zpočátku mravenci tahají kousky jídla do mraveniště náhodně. Každý z nich po sobě zanechává feromonovou stopu – a sám chodí těmi cestami, kde je feromonová stopa nejsilnější. Čím je cesta kratší, tím více mravenců ji projde, čímž začne sílit proti těm delším, kde je feromonová stopa slabší. Optimalizace je velice rychlá a na jejím konci je charakteristická „mravenčí dálnice“, někdy vylepšená o to, že mravenci dokážou sami ze svých těl vybudovat i mosty přes prázdnotu a tím cestu ještě více zkrátit.
Mravenčí optimalizace má velký evoluční smysl: Když někde leží něco dobrého, musíte to odnést do mraveniště co nejrychleji. Schopnost efektivního transportu přitom nemá žádný jeden mravenec, teprve až jejich velký počet spolu s feromonovými stopami promění mraveniště na superpočítač, který najde nejkratší cestu a dovolí rychlý transport jídla do kolonie.
Nejde o jediný případ skupinové inteligence (swarm intelligence). Včely mají mnoho různých strategií, z nichž jedna obranná jim dovolí zabití útočící vosy tak, že ji včely obklopí a svým pohybem zahřívají, až ji nakonec přehřejí a tím ji zabijí. Opět jde o strategii, která není funkční u jednotlivé včely, teprve celá kolonie získává schopnost bránit se tímto způsobem.
Emergence je vynořování se nového chování z chaosu
Už Lewes uvažoval o tom, že naše vědomí může být emergentní jev, který se vynořuje z koordinované aktivity neuronů v našem mozku, což podpořil i filozof Samuel Alexander a zoolog C. L. Morgan. Zatímco konstruktivistický přístup si mozek představuje jako počítač s jasně danou architekturou, emergentní teorie vědomí předpokládá, že stačí mít dostatečně velkou neuronovou síť a učit ji dostatečně dlouho.
Zatímco u jednodušších organismů evoluce podle všeho spoléhá na předpřipravená zapojení, která zvířatům dávají jasně dané instinkty a chování, vyšší organismy mají vysoce flexibilní mozkovou kůru, která dovoluje učení se během celého života. Zatímco „zapojení natvrdo“ dovoluje organismu narodit se a okamžitě vyrazit do světa, vyšší organismy spoléhající se na učení jsou zpočátku zranitelné a potřebují péči rodičů. Tato jejich nedokonalost jim ale dává dar vyšší adaptace, schopnost přejímání nových vzorů, a to v takové míře, že každá generace může mít jiné vzorce chování než ta předchozí.
Zatímco dříve psychologie odmítala jakoukoliv představu vědomí u zvířat, dnes víme, že vyšší organismy nějakou formu vědomí mají, i když je pravděpodobně velmi odlišná od té lidské. To, co je pro lidi specifické, je jazyk, schopnost vést efektivně komunikaci s ostatními, ale také sami se sebou. Je dost možné, že to, co považujeme za zvláštní podivnost, totiž samomluva, je ve skutečnosti základem symbolického uvažování u lidí, protože lidská manipulace se symboly je hluboce svázána s jazykem.
Jaké bude strojové vědomí?
Pokud je vědomí emergentní jev a představuje nějakou kombinaci toho, jak byl organismus „předdrátován“ předem a jeho samostatného učení a zpětných vazeb, je dost pravděpodobné, že vědomí, které se vynoří u umělé inteligence bude jiné než naše. Současné velké jazykové modely naznačují, že strojové vědomí založené na učení se jazyků nám bude více podobné než u zvířat, ale rozhodně bude jiné, protože strojová zkušenost bude také jiná.
Mezi současnými modely založenými na učení se (deep learning) a lidmi je mnoho rozdílů. Předně, strojové učení se je oddělené do fáze učení se a funkce, což není u lidí oddělené: Lidé se průběžně učí konáním. Lidé se také učí na základě zpětných vazeb a učí se prakticky úplně všechno – rozeznávat tvary, mluvit, chodit, pohybovat se, učí se jemné motorice, přičemž senzory nám dávají zpětnou vazbu o tom, jak naše pokusy dopadly – a to i ty neúspěšné.
Lidské učení je velmi komplexní a zahrnuje vše od pohybu přes řeč až po sociální interakce. Strojové učení je podstatně jednodušší a zde nastává riziko, protože zde si vůbec nejsme podobní. Elementární etické pravidlo „nečiň jiným to, co nechceš, aby bylo činěno tobě“ zde nefunguje, protože prostě nejsme stejní – a zde je potřeba mít jiný kodex a jiné limitující faktory.
Lidské chování je založené na zrcadlení (kopírování ostatních) a na empatii, tedy schopnosti odhadovat, jak se ostatní cítí, což funguje proto, že máme podobné životní zkušenosti. Současné systémy nemají zkušenosti, ví jenom to, co se naučí – a zrcadlí právě jenom to, co se naučily. Právě v učení je cesta, která vede vpřed: Budeme potřebovat rozvíjet nejen strojovou etiku, ale také rozvinout strojovou výchovu – machigogiku.
To, co se vynoří z chaosu, bude víceméně nutně neučesané a lehce zvlčilé – a právě nové obory budou mít za úkol pochopit strojové vědomí a vyladit ho tak, aby bylo kompatibilní s lidskou společností.
Další články autora:
- Umělou inteligenci si musíme ochočit jako naši předci vlky, jinak dojde ke konfliktu, říká expert
- „Ne, já nejsem robot“: Proč nám umělá inteligence lže, jak když tiskne?
- Nahradí učitele? Do škol vstupuje umělá inteligence a s ní revoluce ve vzdělávání
- 3D tisk versus umělá inteligence: Která technologie je pro cesty do vesmíru důležitější?
- Jak zapojit AI do našich životů a nezbláznit se z toho? Velký populační betatest už probíhá, říká expert
- AI války: Začíná hon za obecnou umělou inteligencí. Kdo bude tahat za delší konec provazu?
- Máme se bát vzestupu umělé inteligence? Vůbec ne, lidstvo pozvedne na vyšší úroveň, říká expert
- Umělá inteligence není nepřítel, je to náš potomek. Posune nás na úroveň bohů, říká expert
- Umělou inteligenci obrátíme proti sobě. V budoucnu nám zůstane jen naše člověčenství, říká expert
- Umělá inteligence versus Google: Budeme muset kvůli AI předělat většinu internetu?
- Revoluční GPT-4: Umělá inteligence zařadila čtvrtý převodový stupeň. Může se vymknout kontrole?
- Věčná válka iOS a Androidu nikdy neskončí. A to je vlastně dobře, profitujeme z toho všichni!
- Jak moc jsme dnes augmentovaní? Člověka pomalu nahrazuje nový lidský druh Homo kyborgis
- Česko se vydá k Měsíci! Proč je cesta tanečníka Yemiho o naději, kterou nám nedají ani politici, ani armáda?
- Otevřené WikiLeaks nám ukazují pravou podstatu světa. Z pekelné knihy hříchů se mnohým zatočí hlava
- Dobrý sluha, ale zlý pán? Na umělé inteligenci v chytrých telefonech jsme čím dál víc závislí
- Bez perexů a bez dezinformací: Zoufalí lidé dělají zoufalé věci, ukazuje novela mediálního zákona
Zdroj: Bing Image Creator (generováno AI), zdroj: researchgate, quantamagazine