
Facebook automaticky vytvořil extremistické video
10. 5. 2019
Facebook byl obviněn, že automaticky vygeneroval extremistický materiál, včetně oslavného džihádistického videa a podnikatelské stránky pro al Kajdu.
Materiál objevil anonymní whistleblower, který podal oficiální stížnost americkým regulačním úřadům.
Na Facebooku byl také nalezen podobný materiál pro nacisty a bělošské supremacistické organizace.
Whistleblowerova analýza trvala pět měsíců a sledovala facebookové stránky 3000 lidí, kteří likeovali organizace, anebo měli vazby na organizace, které americká vláda považuje za teroristické.
Analýza zjistila, že organizace jako Islámský stát a al Kajda jsou na Facebooku otevřeně aktivní.
Dále zjistila, že nástroje samotného Facebooku automaticky vyrábějí nový materiál pro tyto zakázané organizace - dělají "oslavná" a "připomínková" videa, jakmile stránka shromáždí dostatečný počet likeů anebo existuje po určitý počet měsíců.
Místní "podnikatelská" stránka pro al Kajdu, kterou vygeneroval Facebook, měla 7410 likeů a poskytla al Kajde "cenná data" pro verbování stoupenců a vyhledávání aktivistů
Algoritmy Facebooku vytvořily na této stránce charakteristiky pro "pracovníky", které uživatelé uvedli ve svých profilech. Facebook také zkopíroval obrázky, loga a vlajky, které používá al Kajda.
Podobné stránky jsou automaticky vytvářeny pro bělošské supremacistické organizace a pro nacistické organizace, aktivní na Facebooku.
Podrobnosti v angličtině ZDE
Diskuse