- Obavy z umělé inteligence už mají i samotní vývojáři
- Více než třetina jich varuje před katastrofou nebývalých rozměrů
Průzkum mezi vědci zabývajícími se umělou inteligencí ukázal, že se 36 % z nich domnívá, že AI by mohla způsobit katastrofu v rozsahu jaderné války. Upozornil na to server New Scientist.
Nepřehlédněte: Jako nejhorší noční můra. Umělá inteligence předpověděla, jak vypadá nejděsivější člověk na Zemi
Je umělá inteligence nebezpečná?
Více než třetina výzkumníků zabývajících se umělou inteligencí z celého světa se shoduje na tom, že rozhodnutí umělé inteligence by mohla v tomto století způsobit obrovskou katastrofu.
Tato zjištění vyplývají z průzkumu zahrnujícího názory 327 výzkumných pracovníků, kteří se v nedávné době stali spoluautory článku o výzkumu umělé inteligence v oblasti zpracování přirozeného jazyka. V posledních letech došlo v této oblasti k velkému pokroku a stále častěji se používají velké modely AI, které vykazují působivé výsledky. Jmenujme například Dall-E firmy OpenAI Elona Muska nebo MidJourney.
Průzkum, který provedl Julian Michael z Centra pro datovou vědu Newyorské univerzity společně se svými kolegy, zjistil, že 36 % všech respondentů si myslí, že katastrofa na úrovni jaderné války je možná.
„Američtí vojenští představitelé se již dříve vyjádřili skepticky k vyzbrojování bezpilotních letounů jadernými zbraněmi, natož aby umělá inteligence hrála významnou roli v systémech velení a řízení jaderných zbraní. Rusko však údajně vyvíjí bezpilotní torpédo s autonomními schopnostmi, které by mohlo zasadit jaderný úder pobřežním městům,“ píše New Scientist.
Před vzpourou strojů varuje i Google
Ještě více než muži se umělé inteligence a možných následků obávají ženy. Že AI může způsobit katastrofu, pokud by se dostala do řídící pozice, si myslí 46 procent dotázaných. 57 % všech respondentů průzkumu pak považuje vývoj velkých modelů umělé inteligence za významné kroky směrem k rozvoji umělé obecné inteligence. A 73 % dotázaných souhlasilo s tím, že automatizace práce pomocí AI může vést k společenským změnám v rozsahu průmyslové revoluce.
Před umělou inteligencívarovali nedávno také výzkumníci z Oxfordské univerzity a experti společnosti Google DeepMind. Výzkumníci v článku, který otiskl časopis AI Magazine, spekulují, že by se pokročilá umělá inteligence mohla uchýlit ke špinavým trikům. A to i v případě, že by poškodila lidstvo. Domnívají se, že by roboti mohli lidstvo připravit o veškeré zdroje.
Zdroj náhledové fotografie: Sammy-Sander / Pixabay, zdroj: New Scientist