- Na Telegramu se objevily nebezpečné AI nástroje.
- Hanbatý obsah dokážou vytvořit prakticky z jakékoliv fotografie člověka.
- Podle expertů může jít do budoucna o velký problém.
Umělá inteligence (AI) se tak trochu vymyká kontrole. Tedy alespoň v některých segmentech trhu. Na chatovací platformě Telegram se začaly objevovat AI nástroje, které podle tvrzení autorů umí „svléknout kohokoliv“. Generování takových AI materiálů přitom může být protizákonné.
Nepřehlédněte: Hackeři pouštěli porno na letišti v Brazílii, lidé byli v šoku
Porno-boti na Telegramu
Na platformě Telegram se rychle rozmáhají chatboti, kteří vytvářejí falešné nahé fotografie skutečných lidí na přání uživatelů. Tyto explicitní deepfaky vyvolávají vážné obavy odborníků, kteří varují, že jejich rozšíření může vést k „zamoření internetu AI pornem“.
Podle zjištění magazínu Wired existují na Telegramu desítky chatbotů využívajících umělou inteligenci (AI), které dokáží vytvořit explicitní fotky nebo videa lidí na několik kliknutí. Někteří roboti odstraňují oblečení z fotografií poskytnutých uživateli, zatímco jiní generují přímo záběry jako z pornofilmů.
Wired odhaduje, že tyto deepfake nástroje měsíčně využívá přibližně 4 miliony uživatelů. Celkem se na komunikační platformě nachází asi 50 takových chatbotů.
Bots that “remove clothes” from images have run rampant on the messaging app, allowing people to create nonconsensual deepfake images even as lawmakers and tech companies try to crack down. https://t.co/hZWcrUB06w
— WIRED (@WIRED) October 15, 2024
Nebezpečí pro běžné lidi
Deepfake expert Henry Ajder vyjádřil znepokojení nad tím, jak snadno lze k těmto nástrojům přistoupit a využít je ke generování explicitního obsahu, který ohrožuje zejména ženy a mladé dívky. Tento druh technologií je snadno dostupný na jedné z největších chatovacích aplikací na světě, což podle Ajdera představuje „noční můru“.
Celebrity jako Taylor Swift, Gal Gadot či Jenna Ortega se již v minulosti staly oběťmi těchto pornografických deepfaků, ale stále častěji se objevují případy, kdy jsou k těmto účelům využívány fotografie náhodných dospívajících dívek, což vede ke zneužívání například formou sextortionu (vydírání pomocí pornografického obsahu).
Telegram nabízí mnoho různých funkcí, včetně her a překladů, ale zároveň slouží i jako platforma pro šíření nebezpečných deepfake obrázků. Ačkoliv společnost nezareagovala na žádost serveru Wired o vyjádření, po kontaktu náhle zmizeli z aplikace jak chatboti, tak související kanály. Není však vyloučeno, že mezitím vznikají nové podobné nástroje.
Zdroj náhledové fotografie: Мелия / Pixabay, zdroj: New York Post, Wired