Monitoraggio dell’incitamento all’odio online che segue eventi del mondo reale
Alcuni picchi nei gruppi target di incitamento all’odio che sembrano non essere coinvolti nell’attivazione di eventi
Un’analisi basata sull’apprendimento automatico ha rivelato modelli di incitamento all’odio online che suggeriscono collegamenti complessi, e talvolta controintuitivi, tra eventi del mondo reale e diversi tipi di incitamento all’odio. Yonatan Lupu della George Washington University di Washington, DC, e colleghi hanno presentato questi risultati nella rivista ad accesso aperto PLOS ONE il 25 gennaio.
Ricerche precedenti hanno scoperto informazioni chiave sull’incitamento all’odio pubblicato pubblicamente dagli utenti delle comunità online. Gli eventi del mondo reale possono innescare un aumento dell’incitamento all’odio online e i picchi di incitamento all’odio online sono stati collegati a picchi di crimini d’odio violenti nel mondo reale. Tuttavia, la maggior parte degli studi precedenti si è concentrata su un numero limitato di comunità di piattaforme moderate che hanno politiche contro l’incitamento all’odio.
L’incitamento all’odio razzista online è aumentato del 250% nei giorni successivi all’omicidio ed è rimasto elevato anche dopo questi eventi.
Altri tipi di incitamento all’odio online, tra cui anti-LGBT, antietnico, di genere e antisemitismo, sono tutti aumentati di circa il 50% o più durante questi eventi.
CREDITO
Lupu et al., CC-BY 4.0 (https://creativecommons.org/licenses/by/4.0/)
Lupu e colleghi hanno combinato metodi manuali con una strategia computazionale nota come apprendimento automatico supervisionato per analizzare sette tipi di incitamento all’odio online in 59 milioni di post pubblicati tra giugno 2019 e dicembre 2020 dagli utenti di 1.150 comunità di odio online. Alcune comunità erano sulle piattaforme moderate Facebook, Instagram o VKontakte e altre sulle piattaforme meno moderate Gab, Telegram e 4Chan.
Questa analisi ha rivelato picchi nei tassi di incitamento all’odio online che sembravano associati a determinati eventi del mondo reale. Ad esempio, dopo una crisi che ha coinvolto i rifugiati siriani, l’incitamento all’odio contro l’immigrazione è aumentato notevolmente.
Dopo le elezioni statunitensi del novembre 2020, si sono verificate ondate più sostenute di incitamento all’odio online. Ad esempio, c’è stato un aumento dell’uso di insulti anti-LGBTQ per descrivere vari obiettivi politici e il vicepresidente Kamala Harris è stato un obiettivo importante dell’aumento dell’incitamento all’odio legato al genere.
Durante il periodo di studio, l’omicidio di George Floyd e le successive proteste sono state associate al più grande aumento dei tassi di incitamento all’odio, incluso l’incitamento all’odio razziale. Tuttavia, anche altri tipi di incitamento all’odio sono aumentati in modo significativo, incluso l’incitamento all’odio contro l’identità di genere e l’orientamento sessuale, un argomento con una connessione poco intuitiva con l’omicidio e le proteste.
Sebbene la ricerca non possa fornire conclusioni causali, i risultati suggeriscono una relazione complessa tra eventi scatenanti e incitamento all’odio online, con potenziali implicazioni per le strategie per mitigare tali discorsi. Gli autori chiedono ulteriori ricerche per esaminare ulteriormente questa relazione, soprattutto data la tendenza degli utenti a migrare verso comunità non moderate.
Gli autori aggiungono: “L’incitamento all’odio continua a essere un problema persistente e pervasivo nel panorama dei social media e può aumentare in modi drammatici e talvolta inaspettati a seguito di eventi offline”.