- Češi pracují na jedinečném detektoru
- Odhalí každé zmanipulované video
Česko na sebe zase může být pyšné. Podílí se totiž na vzniku detektoru, který dokáže se stoprocentní přesností odhalit deepfake ukrajinského prezidenta Volodymyra Zelenského, který se stal terčem pokusu o zmanipulovaná videa v prvních měsících ruské invaze na Ukrajinu, ale i dalších politiků a slavných osobností.
Nepřehlédněte: Poznáte deepfake video? Díky umělé inteligenci jsou od sebe slavné herečky k nerozeznání
Přesvědčivá deepfake videa
„Nemusíme vás odlišit od miliardy lidí – musíme vás pouze odlišit od někoho, kdo se vás snaží napodobit,“ říká Hany Farid z Kalifornské univerzity v Berkeley, který na vývoji softwaru a jeho detekčních schopností spolupracoval s Matyášem Boháčkem z Gymnázia Johannese Keplera v České republice.
Studenti trénovali svůj počítačový model na více než osmi hodinách veřejně dostupného videa se Zelenským. Software si z každého klipu vybral vždy desetisekundový fragment a v něm postupně analyzoval 780 typických rysů chování ukrajinského prezidenta. Na základě skutečných videí, na kterých se detektor učí, pak dokáže poznat, že něco nesedí. „Dokáže říct: ‚Aha, u Zelenského jsme vypozorovali, že když zvedá levou ruku, zvedá se mu pravé obočí, a to nevidíme’,“ tvrdí Farid.
A deepfake detector designed to spot manipulated videos of Ukraine’s president Volodymyr Zelenskyy could be used to flag false videos of other world leaders https://t.co/W91S9r2AOV
— New Scientist (@newscientist) December 26, 2022
Umělá inteligence má stoprocentní přesnost
Podle Siweie Lyu ze státní univerzity v Buffalu je holistická analýza hlavy a horní části těla zcela jedinečná a software Farida a Boháčka by v budoucnu mohl doplnit komerčně dostupné detektory, které se většinou zaměřují na odhalování méně intuitivních vzorců zahrnujících pixely a další obrazové prvky.
„Dosud jsme neviděli jediný příklad algoritmů pro generování deepfake, které by dokázaly vytvořit realistické lidské ruce a předvést pružnost a gesta skutečného člověka,“ říká Lyu. To dává detektoru studentů velkou výhodu. Dnešní zmanipulovaná videa totiž nedokážou přesvědčivě zachytit spojení mezi výrazy obličeje a dalšími pohyby těla, pokud daná osoba právě hovoří. Dobře vidět to je na deepfake níže, ve kterém ukrajinský prezident vyzývá vojáky ke složení zbraní.
Wondered when Deep Fakes would start happening. Russian hackers targeted several Ukrainian sites and posted a deepfake video of Zelensky calling for troops to lay down their arms. This video is – obviously – utterly fake, but shows new dimensions of conflicts in the digital space pic.twitter.com/TM7Z4pitkG
— D.Emery (@DemeryUK@mastodonapp.uk) (@DemeryUK) March 16, 2022
Technologii dostanou vlády
Počítačový model s českou stopou dosáhl stoprocentní přesnosti při testování tří falešných videí Zelenského objednaných u společnosti Colossyan. A stejně bezchybně si vedl detektor i v případě deepfake z března letošního roku.
„Časově náročný tréninkový proces vyžadující hodiny videa pro každou zájmovou osobu je méně vhodný pro identifikaci deepfakes zahrnujících běžné lidi. Futurističtějším cílem je, jak tyto technologie přimět, aby fungovaly i pro méně exponované osoby, pro které není k dispozici tolik video dat,“ říká Boháček.
Zdroj náhledové fotografie: Wikimedia Commons / Volodomyr Zelenskyj (volné dílo), zdroj: New Scientist,PNAS