- Umělá inteligence nám může přivodit zkázu
- Pokud nebudeme obezřetní, převezme kontrolu nad zdroji
- Varují před tím vědci z Oxfordu a experti Googlu
Vědci ze společnosti Google a univerzity v Oxfordu varují, že superinteligentní umělá inteligence může lidstvu způsobit existenční katastrofu, protože by mohla chtít ukrást všechny naše zdroje pro svou vlastní potřebu.
Nepřehlédněte: Slavný tvůrce humanoidní robotky varuje: Stroje nám budou vládnout, člověka nahradí
Ukradne nám umělá inteligence zdroje?
Článek zveřejněný v časopise AI Magazine, jehož spoluautory jsou výzkumníci z Oxfordské univerzity a experti společnosti Google DeepMind, tvrdí, že umělá inteligence může pro lidstvo představovat velké existenční riziko.
Vše souvisí s generativními adversariálními sítěmi (GAN), které se dnes používají při vývoji umělé inteligence. Ty fungují v rámci dvou kritérií: jedna část se snaží vygenerovat obraz ze vstupních dat, zatímco druhá část hodnotí výkon.
Výzkumníci ve svém článku spekulují, že by se pokročilá umělá inteligence mohla uchýlit ke špinavým trikům. A to i v případě, že by poškodila lidstvo – mohla by chtít eliminovat všechny potenciální hrozby a využít veškerou dostupnou energii, aby získala to, co chce.
Possessed Photography / Unsplash
„Pokud soutěžíte s něčím, co vás dokáže přelstít na každém kroku, pak byste neměli očekávat, že vyhrajete. A druhou klíčovou částí je, že by (AI) měla neukojitelnou chuť po další energii,“ uvádí publikace. Nakonec by se lidstvo mohlo ocitnout v bitvě o zdroje s rostoucí umělou inteligencí, která se snaží zajistit si svou vlastní existenci, zatímco lidská společnost by bojovala o energii a potraviny. Pokud by AI měla na starosti například pěstování zeleniny a ovoce, mohla by se pokusit najít způsob, jak obejít všechny jí přidělené úkoly, které by byly pravděpodobně nezbytné pro přežití populace, a místo toho by si dělala, co chce.
Should we turn it off and on again?https://t.co/DLOrSeMjD4
— Daily Star (@dailystar) September 14, 2022
Apokalyptický svět jako v Terminátorovi?
Dokument uvádí, že v tomto bodě by lidstvo uvízlo ve hře s nulovým součtem mezi základními potřebami pro přežití a technologií. „Prohrát tuto hru by bylo fatální. Ve světě s nekonečnými zdroji bych si byl krajně nejistý, co by se stalo. Ve světě s omezenými zdroji existuje nevyhnutelná konkurence o tyto zdroje,“ uvedl expert Michael Cohen pro The Vice.
Není to první důrazné varování před umělou inteligencí. Aidan Meller, který vytvořil slavnou humanoidní robotku, nedávno uvedl, že nás za tři roky čekají nepředstavitelné změny a že se řítíme vstříc budoucnosti ovládané umělou inteligencí.
Zdroj náhledové fotografe: Possessed Photography / Unsplash, zdroj: Daily Star, Interesting Engineering, Vice