- Technický šikula přišel na to, jak oklamat umělou inteligenci
- Když se chatGPT správně zeptal, vygenerovala platný klíč pro Windows
O tom, že lze umělou inteligenci zneužít k nekalým účelům, netřeba pochybovat. Dokazuje to mimo jiné i nové video YouTubera s přezdívkou Endermann, který se pokusil AI chatGPT přesvědčit, aby mu vygenerovala platný licenční klíč pro operační systém Windows. A ano, uspěl.
Slavný vědec z Googlu předpověděl rok, kdy lidstvo dosáhne nesmrtelnosti. Skoro nikdy se nemýlí
Platný licenční klíč k Windows
Umělá inteligence, která není svázána žádnými etickými omezeními, je velkým strašákem všech odborníků. Vzpomeňme petici z uplynulého týdne, kterou podepsalo více než 1000 IT hvězd včetně Elona Muska nebo spoluzakladatele společnosti Apple Steve Wozniaka. Odborníci se obávají, že vývoj umělé inteligence je nekontrolovaný a představuje pro lidstvo velké nebezpečí.
Ne každé použití umělé inteligence však musí nutně skončit ovládnutím světa stroji. Někdy ji lze zneužít i k mnohem méně závažným věcem. Jak upozorňuje server PCGamer, pokud přímo požádáte umělou inteligenci ChatGPT o vygenerování použitelného klíče pro Windows 95, chatbot s ohledem na etické důsledky odmítne.
YouTuber Enderman se však nevzdal a zjistil, že když stejnou otázku položíte trochu jinak, umělá inteligence už platný licenční klíč pro Windows 95 vygeneruje.
Stačilo se jen správně zeptat…
Mladík přiznává, že bylo zapotřebí mnoha pokusů, než se mu podařilo dokonale vyladit formulaci potřebnou k dosažení požadovaného výsledku, ale nakonec se mu to podařilo.
„Doslova jediným problémem, který brání programu ChatGPT v úspěšném generování platných klíčů pro systém Windows 95 téměř při každém pokusu, je skutečnost, že neumí spočítat součet číslic a nezná dělitelnost,“ říká YouTuber ve videu.
„Dokonce nedokáže zpracovat ani jednoduchý algoritmus, takže náhodně generuje číslice, místo aby se držel pravidla dělitelnosti 7, které jsem zavedl.“
Protože Windows 95 není už několik let podporován, není generování licenčních klíčů pro tento operační systém nic, za co byste šli na dvacet let do chládku.
Na druhou stranu je Endermanův pokus ukázkou toho, že když se správně zeptáte, je umělou inteligenci možné snadno obehrát.
Zdroj náhledové fotografie: Windows / Unsplash, zdroj: PCGamer