Skynet z Terminátora je za humny: 60 zemí se dohodlo, že umělou inteligenci je potřeba držet na uzdě

• Proběhla první konference ohledně vojenského využití AI
• Už i vlády si uvědomují, že brzy může jít do tuhého

V posledních měsících se objevily obavy z možných dopadů umělé inteligence na společnost. Nejenže by mohla ohrozit pracovní místa a plně nahradit člověka, ale využití inteligentních strojů ve válce by mohlo mít katastrofální následky. V reakci na toto potenciální nebezpečí se minulý týden konal v Nizozemsku vůbec první celosvětový summit o odpovědném využívání AI ve vojenské oblasti (REAIM), jehož cílem bylo omezit potenciální škody způsobené umělou inteligencí během války.

Nepřehlédněte: Umělá inteligence versus Google: Budeme muset kvůli AI předělat většinu internetu?

Pamatujete na Skynet?

Z dokumentu vyplývá, že všichni účastníci, s výjimkou Izraele, se zavázali vyvíjet a používat vojenskou umělou inteligenci v souladu s „mezinárodními právními závazky a způsobem, který nepodkopává mezinárodní bezpečnost, stabilitu a odpovědnost“.

V průběhu konference se diskutovalo i o nezamýšlených důsledcích, rizicích eskalace a způsobu, jakým mají být do rozhodovacího procesu zapojeni lidé. Všichni zúčastnění se shodli na tom, že to musí být člověk, kdo bude mít vždy konečné slovo při rozhodování o tom, zda autonomní zbraňové systémy zahájí palbu na živé cíle.

Pokud jde o ony nezamýšlené důsledky, několik států vyjádřilo obavy, že indický tlak na vývoj vojenských systémů poháněných umělou inteligencí by mohl vést k jaderné válce s Pákistánem.

Někteří účastníci summitu však poukázali na výhody využití umělé inteligence ve válce na Ukrajině, kde bylo strojové učení a další technologie využity k odražení většího a silnějšího agresora. Mimochodem, Rusko nebylo k účasti na konferenci přizváno a Ukrajina se jednání nezúčastnila.

Účastníci summitu se dohodli, Rusko nepozvali

Je třeba zdůraznit, že prohlášení podepsané zúčastněnými zeměmi není právně závazné, což znamená, že státy, které pravidla nedodrží, nebudou nutně čelit právním důsledkům. Dokument tedy v podstatě nic moc neznamená, ale je to rozhodně lepší než nic.

O umělé inteligenci se nedávno hovořilo především v souvislosti s testem americké zbrojovky Lockheed Martin, která oznámila, že její cvičné letadlo bylo řízeno AI po dobu více než 17 hodin.

Velkou pozornost vzbudil i rozhovor bývalého generálního ředitele společnosti Google a předsedy představenstva Alphabet Erica Schmidta, který uvedl, že dopad technologie umělé inteligence ve válečném konfliktu může být stejně ničivý jako jaderné zbraně.

Zdroj náhledové fotografie: se souhlasem Ghost Robotics, zdroj: TechSpot