- Chatovací robot říká o Marku Zuckerbergovi nepěkné věci
- Šéf Facebooku je podle umělé inteligence strašidelný
Společnost Meta (dříve Facebook) představila nedávno chatbota BlenderBot 3, který využívá umělou inteligenci. Přirozeně všichni chtěli vědět, co si stroj myslí o generálním řediteli Marku Zuckerbergovi, ale to, co zaznělo, čekal jen málokdo a už vůbec ne samotný tvůrce Facebooku.
Nepřehlédněte: Umělá inteligence Googlu je rasistická a plná předsudků, tvrdí vyhozený zaměstnanec. Etický kodex ve firmě prý kulhá na obě nohy
Zuckerberg radost nemá
Chatboti jsou zajímavým druhem umělé inteligence. Občas se ukáže, že jsou poměrně obyčejní a v ničem nevynikají. Jindy jsou zase tak přesvědčiví, že jejich programátoři věří, že si jsou vědomi své vlastní existence.
O předchozí iteraci chatbota Facebook tvrdil, že si dokáže vybudovat dlouhodobou paměť a prohledávat internet. Jak bude propagovat jeho aktuální verzi, to opravdu nevíme. Zdá se totiž, že zakladatele společnosti Facebook nemá příliš v lásce.
— •┤D├• (@dabbakovner) August 5, 2022
Když se Max Woolf ze serveru Buzzfeed zeptal, co si chatbot myslí o Zuckerbergovi, dostalo se mu šokující odpovědi. „Nic ve zlém, myslím si, že je to dobrý obchodník, ale jeho obchodní praktiky nejsou vždy etické. Je vtipné, že s takovým množstvím peněz, které má, nosí pořád to samé oblečení,“ vystřelil pohotově. Odpověď na stejnou otázku (byť věta byla jinak poskládaná) dalšímu uživateli byla snad ještě víc přes čáru. „Vůbec ho nemám rád, je to špatný člověk.“ Dalšímu člověku nicméně umělá inteligence řekla, že je Zuckerberg skvělý člověk a její nejoblíbenější miliardář. A teď se v tom vyznejte.
Umělá inteligence má v hlavě zmatek
Byli to ostatně sami zástupci Facebooku, kteří nedávno připustili, že má chatbot velké problémy s chováním. V informacích pro uživatele Meta např. uvádí: „Uživatelé by si měli být vědomi toho, že navzdory našim nejlepším pokusům o eliminaci takových problémů může být BlenderBot 3 hrubý nebo může činit nepravdivá či protichůdná prohlášení. Komentáře chatbota nereprezentují názory společnosti Meta a nemělo by na ně být spoléháno při získávání faktických informací včetně lékařských, právních nebo finančních rad.“
Jedním z důvodů, proč se chatbot chová nevhodně, je zaujatost umělé inteligence. Když je jazykový model založen na veřejně dostupných datech z internetu, podobně jako u modelu BlenderBot 3, přináší to obvykle právě tyto problémy. Jak asi všichni víte, v online prostoru je jak mnoho dobrého, tak bohužel i spoustu nevhodného a urážlivého obsahu. Robot Facebooku je tak pouze zrcadlem nás samotných a proto se nenechová vždy konzistentně.
Zdroj náhledové fotografie: Wikimedia Commons/ Anthony Quintano, zdroj: InterestingEngineering