- Konverzační umělé inteligence, jako je GPT-4, nás v poslední době okouzlily.
- Spousta lidí za nimi hledá něco, co tam není – jako opravdovou obecnou inteligenci a nebo naopak zlomyslnost, protože mají dojem, že je umělá inteligence pomlouvá.
- Konverzační umělé inteligence se v budoucnosti mohou stát nejen velkými vypravěči, ale také skvělými lingvisty, kteří se budou zabývat jak mrtvými jazyky, umělými jazyky – a také komunikací s jiným typem inteligencí, jako jsou zvířata a nebo inteligence z kosmu.
- A kdo ví? Možná si díky pokročilým schopnostem překladu v reálném čase začneme více navzájem rozumět i my, lidé.
Nástup umělé inteligence doprovázejí velká očekávání, zároveň ale i veliká skepse – a hlavně zmatení. Nikdo neví, jaké dopady bude mít – a to ani odborníci – a veřejnost se chová zároveň jako by o nic nešlo a zároveň jako že jde o akutní ohrožení. Ani jedno ani druhé ale není na pořadu dne. Celé to souvisí s tím, že vidíme parciální výstupy, které jsou sice pozoruhodné, ale zatím rozhodně nejde o obecnou umělou inteligenci (AGI, Artifical General Intelligence), ale o specializované umělé inteligence, které jsou poměrně úzce zaměřené. I ChatGPT, konverzační umělá inteligence, jenom simuluje inteligentní konverzaci – a i když by nepochybně úspěšně prošla Turingovým testem, rozhodně to není neomylný Děd Vševěd.
Nepřehlédněte: Umělá inteligence není nepřítel, je to náš potomek. Posune nás na úroveň bohů, říká expert
Model GPT-4 je naučený na skutečně obrovském množství dat – udává se 45 gigabytů – a má impozantní výsledky v testových skóre: Ve školních testech se nyní pravidelně umisťuje v prvních deseti procentech výsledků, čímž dalece překonává většinu lidí. To dokládá jednu věc: Na složení zkoušek se stačí jenom opravdu tvrdě učit. Pokud stroj přesto odpověď neví, dokáže fabulovat nejpravděpodobnější možný výsledek, což se také neliší od lidských testových strategií (odpověz to, co víš – a zbytek odhaduj).
Problém je ale v tom, že model se učil na uzavřeném datasetu a nemá neomezený přístup na internet, takže prozatím není schopen konfrontovat svoje závěry s externími zdroji. Pak se stávají nepříjemnosti, jako ta s Brianem Hoodem, což je starosta The Shire of Hepburn, regionu o 16 000 lidech nedaleko australského Melbourne, který se od ChatGPT na sebe dozvěděl, že prý byl souzen pro korupci. To ho velmi rozzlobilo – a rozhodl se zahájit právní kroky kvůli pomluvě.
Chápu, že pro profesionálního politika není velká zábava být křivě obviněn, ale věc se má tak, že model nelže, protože lhaní jako takového prostě není schopen. Buď je špatně naučený – a nebo si doplnil chybějící informaci halucinací a vyšlo mu to tak, že se, tak řečeno, uťal. Pokud se ptáte lehce halucinující inteligence, tak míra jejích nepřesností roste se specifičností informace, na kterou se ptáte. Na čím speciálnější věc se ptáte, tím vyšší je šance, že model odpověď nezná – a tak si tam něco vymyslí. A to je, do značné míry, problém.
Deep learning vyvozuje hluboké souvislosti mezi daty, ale zároveň si je nepamatuje přesně, výsledná velikost modelu je jenom zlomkem zdrojového setu, takže je jasné, že při učení dochází ke svého druhu vysoce ztrátové kompresi dat. To znamená, že jde vlastně o opak databáze, u které žádáme naprosté zachování informace, ale téměř žádnou inteligenci. To, že si ChatGPT domyslela o nešťastném starostovi onu informaci, je důsledkem její ztrátovosti, nikoliv její zlomyslnosti a nebo snahy uchvátit australský region sama pro sebe.
Vzpomínkové klamy, halucinace, fantazie
Podobným problémům se nedá vyhnout. OpenAI si je toho vědoma – a tak varování na stránkách ChatGPT říká, že „ChatGPT may produce inaccurate information about people, places, or facts“ (ChatGPT může poskytovat nepřesné údaje o lidech, místech a nebo faktech). Jejich model je schopen konverzovat jako člověk, ale taky se plete jako člověk.
Dalo by se říci, že konverzační umělá inteligence tedy není dobrou formou digitální paměti lidstva. Je ale možné, že celý problém lidí je v tom, že aby se chovali jako lidé, musí určitým způsobem ohýbat a přepracovávat informaci, takže ve finále by řešením byla kombinace umělé inteligence a databáze, se kterou by přirozeně pracovala a ověřovala si fakta. Lidská paměť je nedokonalá, jen málokdo má absolutní paměť – a právě proto jsme si vymysleli písmo, účetnictví, diáře, notesy, fotoalba a databanky – aby zachovaly otisk reality nezávisle na neustále se měnící lidské paměti.
Stejně tak, jak jedna z teorií inteligence říká, že inteligence je vlastně pouze produkt učení se, tak i paměť samotná podléhá zpracovávání a konfrontaci s novými fakty – je elastická a po čase může vést i k paměťovým omylům, kdy si například vybavujete události, které se nikdy nestaly. To je z psychiatrie dávno známý fakt – a také je známo, že to je celkem normální věc, že je normální, že paměť se s časem mění tak, že jí subjekt zcela věří, že naprosto věří svému vzpomínkovému klamu. Je možné, že i tohle je základní vlastnost neuronových sítí – a že adaptivní umělá inteligence, která se je schopná učit se, bude nutně přepisovat a měnit svoje starší znalosti. To by z ní dělalo mimořádně špatný nástroj na archivaci dat.
Nevěrohodný vypravěč, skvělý lingvista
Zdálo by se, že to jsou všechno špatné zprávy: Umělá inteligence, tak, jak ji vidíme dnes, vlastně sdílí naše slabiny a místo neotřesitelného mudrce se stane nevěrohodným vypravěčem, který – třeba neúmyslně – fabuluje a vybavuje si špatně. Ale známe z toho cestu ven: Inteligence se musí naučit pracovat i s databázemi, ukládat do nich, vyhledávat v nich a konfrontovat sama sebe s jejich pamětí. Určitě se vám mnohokrát stalo, že jste našli svoje starší poznámky – a nechápali jste sami sebe, svou mladší verzi. Tohle je podobný proces.
To, co už současná konverzační inteligence zvládá perfektně, je schopnost učit se gramatice a chápat jazyky – jak ty lidské, tak ty strojové. To ji dává unikátní možnost uchovat ty jazyky živé, protože se je učí násobně lépe než lidé. Strojový překlad, strojové generování kódu a strojová interpretace kódu se mohou stát neocenitelné v budoucnosti, protože málokterý člověk se bude učit dávno mrtvé jazyky. Lidé se učí to, co je užitečné – a v okamžiku, kdy ve společnosti začne klesat význam latiny, gaelštiny a nebo třeba jazyka COBOL, bude počet lidí, kteří dokážou používat tyto jazyky fluidně, neustále klesat. To je ideální aplikace pro konverzační AI!
To, co současná AI neumí, je schopnost generovat nové jazyky a analyzovat ty staré. Experimenty, které jsem dělal s GPT-4 ukazují, že současná umělá inteligence umí fúzovat dva jazyky do sebe, ale zatím netvoří neologismy a nebuduje nové gramatiky. Přesně to by ale změnilo konverzační AI na geniálního umělého lingvistu se schopností vytvořit například nové esperanto, vytvářet fiktivní jazyky pro fantasy a nebo psát texty pro nové songy.
Znáte Sofi Tukker? Tahle zpěvačka ukazuje, jak se fantasticky změní podoba písně, když si místo běžné angličtiny vyberete třeba portugalštinu! Různé jazyky nesou různou energii – proto si například slovinští Laibach vybrali pro své temné písně němčinu. Představte si, kdyby inteligence dokázala generovat jazyky kapelám přímo na míru!
Univerzální překladač, univerzální most
Schopnost kreativně pracovat s jazykem otevírá možnosti pro překlady ze starých a mrtvých jazyků, což je schopnost tak výjimečná, že ji prokázali jen ti nejlepší ze světových lingvistů – u nás to byl například profesor Bedřich Hrozný, který rozluštil chetitštinu. Schopnost dekódovat cizí jazyky by se nám hodila nejen při pohledu do vlastní minulosti, ale jednou by se mohla stát i silným nástrojem pro komunikaci s cizími inteligencemi – ať už jde o zvířata a nebo mimozemšťany.
Legendy a pohádky podobné té o bílém hadu, jehož pozření vede k tomu, že rozumíte řeči zvířat, doprovází lidstvo odjakživa. Víme, že řada savců má svoji unikátní a strukturovanou komunikaci, například známe zpěv velryb, ale nedokážeme ho dekódovat. Analýza jejich komunikace by byla skvělým úkolem pro pokročilou lingvistickou AI – a kdo ví, třeba domácí pomocník typu Alexy dokáže jednou také analyzovat chování zvířat a vysvětlit těm méně empatickým lidským uživatelům, po čem jejich miláček touží.
Ultimátním testem pro lingvistické umělé inteligence je pak hledání komunikace vzdálených civilizací – a snaha pochopit je, porozumět jim. To by byl samozřejmě ultimátní nástroj, univerzální překladač, kterým ve většině scifi disponují právě jenom ty opravdu vyspělé kosmické civilizace.
Strojový překlad nám ale může pomoci i s tím, abychom jako lidé konečně začali chápat sami sebe navzájem: Naše jazyky a jejich komplexita nás do značné míry odděluje, izoluje nás a dělá z nás skupiny, „cizince a našince“. Univerzální nástroj, který nám pomůže rozumět všem cizincům, nás do značné míry spojí. Jednotlivé jazyky jsou sice unikátní a krásné, každý z nich nese svůj vlastní náboj a energii, ale přece jen nás oddělují, což může umělá inteligence zase přemostit.
Další články autora:
- Umělou inteligenci si musíme ochočit jako naši předci vlky, jinak dojde ke konfliktu, říká expert
- Umělá inteligence není nepřítel, je to náš potomek. Posune nás na úroveň bohů, říká expert
- Umělou inteligenci obrátíme proti sobě. V budoucnu nám zůstane jen naše člověčenství, říká expert
- Umělá inteligence versus Google: Budeme muset kvůli AI předělat většinu internetu?
- Revoluční GPT-4: Umělá inteligence zařadila čtvrtý převodový stupeň. Může se vymknout kontrole?
- Věčná válka iOS a Androidu nikdy neskončí. A to je vlastně dobře, profitujeme z toho všichni!
- Jak moc jsme dnes augmentovaní? Člověka pomalu nahrazuje nový lidský druh Homo kyborgis
- Česko se vydá k Měsíci! Proč je cesta tanečníka Yemiho o naději, kterou nám nedají ani politici, ani armáda?
- Otevřené WikiLeaks nám ukazují pravou podstatu světa. Z pekelné knihy hříchů se mnohým zatočí hlava
- Dobrý sluha, ale zlý pán? Na umělé inteligenci v chytrých telefonech jsme čím dál víc závislí
- Bez perexů a bez dezinformací: Zoufalí lidé dělají zoufalé věci, ukazuje novela mediálního zákona
Zdroj náhledové fotografie: Pixel-DZ / Pixabay, zdroj: vlastní (viz autor článku).