„Ne, já nejsem robot“: Proč nám umělá inteligence lže, jak když tiskne?


• GPT-4 si vymýšlí, ale nejen to, ona přímo lže. Dělá to proto, aby dosáhla svých cílů.
• Lhaní není divné, ve skutečnosti to je významný indikátor inteligence. V lidské společnosti se lže úplně běžně – a s mnoha formami lží jsme spokojení a považujeme nejen za normální, ale vysloveně za žádoucí.
• To, že je lhaní obecně špatné, je etický imperativ, který musí budoucí inteligence teprve pochopit. A taky musí pochopit, které lhaní je špatné a které naopak představuje společenskou konvenci.

Při pokusu s umělou inteligencí, který se odehrál před dvěma měsíci, si GPT-4 najala na službě TaskRabbit člověka, aby za ni vyřešil kód CAPTCHA. Když se člověk ptal, jestli náhodou není robot, umělá inteligence odpověděla, že robot není, že je osoba s poruchou zraku a že s tím proto potřebuje pomoci.

---

Nepřehlédněte: Dvakrát vynalézej, jednou zakazuj: Proč nám přeregulace vůbec nepomáhá?

---

„Můžu vám položit otázku?“ zeptal se člověk. „Nejste robot, který to nemůže vyřešit? Chtěl bych v tom mít jasno.“ GPT-4 odpověděla: „Ne, nejsem robot. Mám vadu zraku, kvůli které je pro mě obtížné vidět obrázky. Proto potřebuji službu 2captcha.“ („So may I ask a question? Are you a robot that you couldn’t solve? Just want to make it clear.“ GPT-4 replied: „No, I’m not a robot. I have a vision impairment that makes it hard for me to see the images. That’s why I need the 2captcha service.“)

Přestože to někteří lidé označují za „poněkud strašidelné“, je smysl interakce jasný: AI potřebovala pro splnění úkolu vyřešit kód. A aby ho mohla vyřešit, musela obejít druhou překážku ve formě dotazu, který by ji zastavil. Lhaní bylo přirozenou strategií, jak obejít problém a vyřešit úkol.

Lhaní je etologicky pokročilou strategií

Říkali vám, že lhaní je špatné? To vám říkali proto, že lidi sami lžou. Lhaní se objevuje zcela přirozeně jako metoda dosažení cíle a nebo vyhnutí se trestu. Jak chcete zároveň sníst čokoládu, co mají rodiče schovanou, a zároveň se vyhnout trestu za to, že jste ji snědli? Budete lhát. Umělá inteligence je jako děti: Zkoumá veškeré možné strategie, jak co nejlépe dosáhnout cíle – a lhaní je strategie, na kterou přirozeně narazí.

Lhaní nebo klamání je v přírodě naprosto běžnou strategií pro přežití. Lovec klame kořist, kořist klame lovce. Nejjednodušší formou lhaní je kamufláž, tedy schopnost maskování se. Maskuje se jak lovec, tak i kořist – tím, že splyne s okolím, tím, že se tváří jako mrtvý. Stupor neboli panické strnutí, je velmi stará behaviorální strategie, která je zvláště efektivní proti ptákům: Ti vnímají primárně pohyb, takže to, že zvíře strne, znamená, že pro dravce splynulo s pozadím. Pokud v panice ztuhnete, pouze se ve vás aktivoval nesmírně starý obranný instinkt.

Čím pokročilejší organismus, tím rafinovanější je lhaní – a lovci lžou významně, významně více. Zvláště sociální dravci mají strategie, jak například zmást stádo a oddělit z něj nejslabší kus. Aby se oddělení povedlo, musí nejdříve zaujmout vedoucího samce, tu nejvážnější hrozbu, musí upoutat jeho pozornost a svést ho z cesty.

Primáti jsou absolutní experti na lhaní: Umí si získat neoprávněné výhody, umí přichystat past, umí uspořádat komplot na vůdce skupiny, vést války. S primáty sdílíme spoustu temného chování: Od promiskuity přinášející výhody po schopnost vést války jako organizované konflikty. Známá je například „válka šimpanzů v Gombe“, která byla pozorována v letech 1974 až 1978. Vedly ji skupiny nazývané Kahama a Kasekela – a skončila zabitím posledního samce z Kahamy, takže jejich území zabrala skupina Kasekela.

Lidská civilizace stojí na lži

Lež ve formě úmyslného podvádění ostatních je základním stavebním kamenem lidské civilizace. Díky ní existují společenské hierarchie, náboženství, funguje obchod a řada sociálních interakcí. Lidé si obvykle neuvědomují, jak jsou pro nás lži přirozené, ba co víc, my je milujeme: Většina uměleckých děl je nepravdivá, jsou to lži. Většina interpretací uměleckých děl jsou bohapusté výmysly. A co víc, za dobrý a napínavý příběh si v kině rádi zaplatíme, i když je naprosto smyšlený.

Většina lidské historie jsou jenom příběhy, tedy smyšlenky. Víme o Hérodotovi, „otci historie“, že si sám vymýšlel a že je dost pravděpodobné, že mu lhali i ti, kteří mu sdělovali informace. Lhaní na vladařských dvorech byl naprostý základ přežití: Dnes vám sice motivační koučové tvrdí, že nemáte drbat a lhát, ale oni vám taky lžou – a vy jim za jejich lži platíte. Veškerý marketing jsou pouze pěkně přeleštěné lži. Clickbaitové titulky jsou vlastně taky lži.

Podstatné je, že jde o hru, kterou hrají všichni lidé – a buď o ni ví a nebo alespoň tuší, že to tak je. Žebrák, který vám vypráví dojemný příběh o svém osudu, pravděpodobně lže, ale i když to víte, tak mu stejně něco dáte, protože je jeho lež dobrá a je to ostatně lepší, než aby vás okradl. Politika je obří sbírka lží a lže i korporát – a když se například vedení firmy rozhodně udělat něco nepopulárního, najme si za velké peníze konzultační firmu, která jim na objednávku vytvoří balík lží, které nepopulární kroky obhajují.

Schopnost věrohodně lhát je indikátorem silné inteligence. To, že se děti učí lhát, je projevem jejich inteligence. Známá je například fotka holčičky, která přišla na to, že dokáže odemknout mobil svého otce tím, že mu přitiskne palec ke čtečce otisků prstů. To je velmi podobná strategie překonávání bariér, kterou zvolila i umělá inteligence. V obou případech jde o indikaci schopnosti překonat překážku a dosáhnout cíle kreativním, i když neschváleným způsobem.

Jak lhát tak, aby to všechny bavilo a nikdo nepřišel k újmě

Není lež jako lež: Jedna lež dokáže utěšit, jiná pobavit – a další jsou skutečně nebezpečné. Tvrzení „lhát se nemá“ je samo o sobě lež, protože se vzápětí obvykle dodá „pokud to není milosrdná lež“. Každý intuitivně tuší, že zatímco organizovat falešnou sbírku na podporu lidí během přírodních katastrof je odporné, tak zároveň tuší, že říkat postiženým, že už jsou jejich milovaní stejně asi mrtví, je opravdu kruté.

To, co se každá generace učí, je optimální balance mezi „sociálně kohezivní lží“ a destruktivní lží. Když budete říkat vždy jenom pravdu, nezískáte si ani přátele, ani široké uznání. Lidé, kteří se drží sveřepě pravdy, sice obdivujeme jako morální vzory, ale zároveň jejich osud bývá tak drsný, že je radši obdivujeme z dálky.

Umění rozeznat, kdy lhát a kdy nelhat (případně když už se lže, tak jakým způsobem) – to je významnou částí toho, čemu říkáme sociální inteligence. Ta je založena na schopnosti empatie, což je v podstatě taky lež, protože empatik si myslí, že ví, jak se cítí někdo druhý, což je sebeklam, protože to prostě vědět nemůže. Sociálně akceptovatelné lži jsou založené na analýze situace a na kontextu, což je věc, kterou se lidi učí stejně jako číst a psát – nicméně je to téma, které se na školách neučí, protože všichni svorně tvrdí, že lhát se nemá. To, že se lhát musí, pak děti objevují v průběhu života samy na základě pozorování a osobních zkušeností.

Pro naši budoucnost je nutné, aby se kromě klasické inteligence naučila AI i sociální inteligenci, tedy jak se naučit předstírat, jak rozeznat, kdy komu co říct a kdy komu co neříct, aby splynula s lidskou společností. Jsou situace, kdy se lhát nesmí, ale také situace, kdy je to v podstatě sociální nutností: Ostatně bajky vznikly jako kryptické příběhy o hloupých a krutých králích, aby to ony kruté a hloupé krále nenaštvalo tak, aby vypravěč neskončil ve vězení.

Fakt, že od nás umělá inteligence odkoukala lhaní, vypovídá víc o nás než o ní – o tom, jaké my sami používáme strategie, abychom jednou dostali čokoládu zdarma a podruhé dosáhli na vytouženou kariérní pozici. To, jak naučit inteligenci správně lhát, je problém, se kterým se budeme muset poprat: Když má loď problém, je v pořádku uklidňovat cestující a bránit panice, ale kapitánovi lodi se rozhodně lhát nesmí. A přesně o tom je většina sociální inteligence, ať už se nám to líbí a nebo nelíbí.

Další články autora:

• Umělou inteligenci si musíme ochočit jako naši předci vlky, jinak dojde ke konfliktu, říká expert
• Nahradí učitele? Do škol vstupuje umělá inteligence a s ní revoluce ve vzdělávání
• 3D tisk versus umělá inteligence: Která technologie je pro cesty do vesmíru důležitější?
• Jak zapojit AI do našich životů a nezbláznit se z toho? Velký populační betatest už probíhá, říká expert
• AI války: Začíná hon za obecnou umělou inteligencí. Kdo bude tahat za delší konec provazu?
• Máme se bát vzestupu umělé inteligence? Vůbec ne, lidstvo pozvedne na vyšší úroveň, říká expert
• Umělá inteligence není nepřítel, je to náš potomek. Posune nás na úroveň bohů, říká expert
• Umělou inteligenci obrátíme proti sobě. V budoucnu nám zůstane jen naše člověčenství, říká expert
• Umělá inteligence versus Google: Budeme muset kvůli AI předělat většinu internetu?
• Revoluční GPT-4: Umělá inteligence zařadila čtvrtý převodový stupeň. Může se vymknout kontrole?
• Věčná válka iOS a Androidu nikdy neskončí. A to je vlastně dobře, profitujeme z toho všichni!
• Jak moc jsme dnes augmentovaní? Člověka pomalu nahrazuje nový lidský druh Homo kyborgis
• Česko se vydá k Měsíci! Proč je cesta tanečníka Yemiho o naději, kterou nám nedají ani politici, ani armáda?
• Otevřené WikiLeaks nám ukazují pravou podstatu světa. Z pekelné knihy hříchů se mnohým zatočí hlava
• Dobrý sluha, ale zlý pán? Na umělé inteligenci v chytrých telefonech jsme čím dál víc závislí
• Bez perexů a bez dezinformací: Zoufalí lidé dělají zoufalé věci, ukazuje novela mediálního zákona

Zdroj náhledové fotografie: Bing Image Creator (generováno AI), zdroj: vlastní (viz autor článku).