L’algoritmo di Instagram ha promosso account che vendevano merce antisemita ed estremista

Da JNS

Un nuovo rapporto ha scoperto che la piattaforma di social media Instagram ha promosso account che vendevano prodotti antisemiti, razzisti ed estremisti, che hanno raggiunto 1,5 miliardi di visualizzazioni e generato vendite stimate per oltre 1,3 milioni di dollari. Gli 11 account identificati nel rapporto, condotto dal Center for Countering Digital Hate in collaborazione con le Jewish Federations of North America, sono stati consigliati dall’algoritmo di Instagram.

Secondo il rapporto, si è registrato un aumento di quasi quattro volte del numero di visualizzazioni di “merchandising d’odio” a tema nazista e razzista dopo che Meta, la società madre di Instagram, ha ridotto le politiche di moderazione dei contenuti all’inizio di quest’anno. “Quando si tratta di diffondere odio e antisemitismo, sappiamo che i social media hanno avuto un ruolo sproporzionato, ed è per questo che la comunità ebraica ha fatto di questo problema un punto fermo del nostro piano in sei punti per combattere l’antisemitismo”, ha affermato Eric Fingerhut, presidente e CEO di Federations.

“Questo rapporto è un importante promemoria del fatto che le aziende di social media possono e devono fare molto di più per far rispettare le loro regole e garantire una maggiore sicurezza alle nostre comunità”, ha affermato. Ha inoltre dimostrato che il ritiro da parte di Meta delle misure contro l’incitamento all’odio ha impedito all’azienda di identificare in modo coerente i contenuti offensivi generati dall’intelligenza artificiale. “Instagram aiuta gli estremisti a trarre profitto dall’antisemitismo e dal razzismo”, ha affermato Imran Ahmed, CEO del Center for Countering Digital Hate. “Rimuovendo misure di sicurezza essenziali, Meta ha permesso all’odio di prosperare”.

Il rapporto ha inoltre evidenziato le principali piattaforme di e-commerce, come Shopify, Wix e Payhip, che ospitavano i negozi online. “Ogni volta che qualcuno acquista una maglietta da uno di questi venditori d’odio, finanzia altra propaganda e macchia la reputazione di ogni azienda che ha reso possibile la vendita”, ha detto Ahmed.