- Umělá inteligence může lidi přechytračit
- IT celebrity volají po zastavení vývoje
Více než tisíc akademiků, expertů a podnikatelů zapojených do vývoje umělé inteligence (AI) včetně miliardáře Elona Muska v novém prohlášení volají po nejméně půlročním pozastavení vývoje nových modelů umělé inteligence. Obávají se, že nástupce nedávno představeného chatbota GPT-4 může být pro lidstvo nebezpečný. Stejného názoru je i spoluzakladatel společnosti Apple Stave Wozniak, který podepsal stejnou petici.
Nepřehlédněte: Záhada trvá: Vědci stále netuší, co způsobuje tajemné signály z vesmíru, které trvají milisekundy
Zastavme umělou inteligenci
„Výkonné systémy umělé inteligence by měly být vyvíjeny pouze tehdy, když jsme si jisti, že jejich účinky budou pozitivní a jejich rizika budou zvládnutelná,“ uvádí Wozniak, Musk a další IT hvězdy v otevřeném dopise neziskové organizace Future of Life Institute.
Podle Wozniaka se laboratoře umělé inteligence v posledních měsících ocitly v nekontrolovatelném závodě ve vývoji a nasazování stále výkonnějších nástrojů umělé inteligence, kterým nikdo – ani jejich tvůrci – nedokáže porozumět, předvídat je nebo je spolehlivě ovládat. Systémy AI navíc ohrožují mnoho pracovních míst.
V článku Wozniak pokládá řadu zásadních otázek: Měli bychom nechat stroje zaplavit naše informační kanály propagandou a nepravdou? Měli bychom automatizovat všechna pracovní místa, včetně těch, která nás naplňují? Měli bychom rozvíjet nelidské mozky, které by nás nakonec mohly přečíslit, přechytračit a nahradit? Měli bychom riskovat ztrátu kontroly nad naší civilizací?
Mnoho povyku pro nic?
I ředitel OpenAI Sam Altman v rozhovoru pro stanici CNBC přiznal, že se „trošku bojí“. „Musíme tady být opatrní,“ řekl u příležitosti uvedení GPT-4. Také ovšem vyjádřil názor, že umělá inteligence může být „nejlepší technologií, jakou dosud lidstvo vyvinulo“.
V nedávném prohlášení společnosti OpenAI se uvádí, že „v určitém okamžiku může být vhodné získat nezávislý posudek před zahájením tréninku budoucích systémů a pro nejpokročilejší snahy se dohodnout na omezení rychlosti růstu výpočetní kapacity používané pro vytváření nových modelů“.
Souhlasíme. Tento okamžik právě teď nastal.
Zdroj náhledové fotografie: patiencepending / Pixabay, zdroj: 9to5mac