- Označil umělou inteligenci za myslící bytost a dostal padáka
- Teď vývojář tvrdí, že je systém LaMDA rasistický a plný předsudků
Dnes už bývalý softwarový inženýr Blake Lemoine společnosti Google na sebe před nedávnem upozornil teorií, že konverzační systém LaMDA, založený na umělé inteligenci, je samostatně myslící bytostí, která si je vědoma své existence. Google se od inženýrových výroků distancoval, a nakonec mu dal padáka. Teď je vývojář zpět s novými informacemi.
Nepřehlédněte: Umělá inteligence nakreslila, jak to bude vypadat, až ovládne svět. S lidstvem udělá rychlý konec
Označil umělou inteligenci za myslící bytost. Dostal padáka
Před nedávnem oblétla svět zpráva o zaměstnanci Googlu, který dostal vyhazov poté, co zveřejnil přepisy rozhovorů mezi ním a umělou inteligencí LaMDA (Language Model for Dialogue Applications). Lemoine tehdy uvedl, že AI je sladké dítě, které chce spíše být považováno za zaměstnance Googlu než za majetek a tvrdil, že si je vědoma svých práv jako osoba. Svými výroby způsobil pořádný poprask.
Teď je Lemoine zpět. Zatímco dříve o jazykovém systému mluvil jen v superlativech, nyní v rozhovoru pro Bussines Insider překvapil tvrzením, že je robot také rasistický a plný předsudků. Během společné konverzace mu prý řekl, že muslimové jsou násilnější než křesťané a dělal trapné narážky na lidi tmavé pleti.
Possessed Photography / Unsplash
Dělala nejapné vtípky
Podle inženýra je za nevhodné chování umělé inteligence zodpovědná interní politika společnosti Google, respektive skladba vývojářského týmu. „Ty druhy problémů, které tato umělá inteligence představuje, tak ti lidé, kteří ji programují, jsou vůči nim úplně slepí. Nikdy nebyli chudí. Nikdy nežili v barevných komunitách. Nikdy nežili v rozvojových zemích,“ řekl. „Jsou to jen inženýři, kteří vytvářejí větší a lepší systémy pro navýšení příjmů Googlu bez ohledu na etiku.“
Google worker sacked after claiming AI is sentient says bot is 'pretty racist' toohttps://t.co/jJDswjoMU8 pic.twitter.com/V5DT49WRtE
— Daily Star (@dailystar) August 1, 2022
Bývalý zaměstnanec se domnívá, že LaMDA je dosud nejvýkonnějším technologickým výtvorem společnosti Google. Zároveň je ale přesvědčen o tom, že si firma při jeho vývoji počínala neeticky. „Pokud chcete vyvinout umělou inteligenci podobných schopností, pak máte morální odpovědnost jít ven a sbírat relevantní data, která nejsou na internetu. Jinak vše, co děláte, je vytváření umělé inteligence, která bude zaujatá,“ řekl.
Společnost Google na Lemoineho tvrzení reagovala prohlášením, že LaMDA prošla jedenácti koly etických kontrol a dodala, že její vývoj byl podrobně popsán v dokumentu vydaném začátkem letošního roku.
Zdroj náhledové fotografe: Possessed Photography / Unsplash, zdroj: Bussines Insider, BBC, DailyStar