- Umělá inteligence už umí napodobit hlas i tvář
- Stačí jí k tomu vteřiny
Letošní rok bude v mnoha ohledech přelomový. Nástup nových technologií v oblasti strojového učení a umělé inteligence začínají pociťovat naprosto všichni. I proto se novinář Joseph Cox ze serveru Vice rozhodl otestovat schopnosti technologie, která dokáže z krátkého záznamu lidského hlasu vytvořit klon. Chtěl zjistit, jestli se mu podaří ošálit bezpečnostní mechanismy a získat přístup ke svému bankovnímu účtu. Výsledek ho šokoval.
Nepřehlédněte: Netflix zlevnil předplatné o polovinu, ale Češi se budou stále dívat za draho. Změna se jich netýká
Umělá inteligence vzbuzuje obavy i obdiv
Když zavolal na automatickou linku britské banky Lloyds, robot na druhé straně ho požádal, aby uvedl, proč volá. Pomocí zvukového záznamu svého hlasu, který syntetizovala umělá inteligence, řekl, že potřebuje zkontrolovat zůstatek na svém účtu.
Digitální bankéř se ho poté zeptal na datum narození, které Cox vyťukal na klávesnici, a poté ho požádal, aby nahlas řekl frázi „Můj hlas je moje heslo“. „Můj hlas je moje heslo,“ prohlásil Coxův hlasový klon. „Děkuji,“ odpověděl virtuální bankéř.
A došlo k tomu, co vůbec nečekal – hlasový klon se lstí dostal k bankovnímu účtu a tomu, kdo ho ovládal, zprostředkoval přístup k zůstatku a k posledním provedeným transakcím.
Ono to fungovalo!
„Nemohl jsem tomu uvěřit, fungovalo to! Použil jsem repliku hlasu poháněnou umělou inteligencí, abych se vloupal na bankovní účet. Poté jsem získal přístup k informacím o účtu, včetně zůstatků a seznamu posledních transakcí a převodů,“ řekl Cox.
New: we proved it could be done. I used an AI replica of my voice to break into my bank account. The AI tricked the bank into thinking it was talking to me. Could access my balances, transactions, etc. Shatters the idea that voice biometrics are foolproof https://t.co/YO6m8DIpqR pic.twitter.com/hsjHaKqu2E
— Joseph Cox (@josephfcox) February 23, 2023
Z kratičkého záznamu lidského hlasu AI udělá klon
Experiment zásadně nabourává představu, že biometrické zabezpečení založené na hlasu poskytuje spolehlivou ochranu před podvodníky. Šokující je však i další zjištění.
Novinář totiž pro svůj test použil populární nástroj pro klonování hlasu od společnosti ElevenLabs, který je k dispozici zdarma. K vytvoření přesvědčivé kopie stačí, aby člověk do nástroje nahrál vzorky svého hlasu a zadal, co chce, aby stroj říkal – žádné velké technické znalosti nejsou potřeba.
Banka Lloyds, do které se Coxův klon naboural, tvrdí, že její bezpečnostní funkce Voice ID „analyzuje více než 100 různých charakteristik hlasu, které jsou stejně jako otisk prstu jedinečné“. Test však dokázal opak.
Zatímco náš hlas může být pro nás a naše okolí skutečně jedinečný, pro umělou inteligenci to zjevně neplatí, tedy alespoň z pohledu biometrie.
Zdroj náhledové fotografie: Freepik, zdroj: VICE