Lo strumento FilterBuddy è progettato per proteggere i creatori di contenuti di minoranza dall’odio online.
In qualità di esperto nella costruzione di un Internet più sicuro ed equo, il professore assistente di Rutgers Shagun Jhaver sospettava da tempo che i creatori di contenuti digitali di gruppi minoritari subissero molestie online sproporzionate. Ma quando ha saputo di uno YouTuber brasiliano di 35 anni che ha avuto un esaurimento nervoso ed è stato ricoverato in ospedale dopo una raffica di odio digitale, ha deciso di fare qualcosa al riguardo.
Jhaver, che insegna al Dipartimento di Biblioteche e Scienze dell’Informazione presso la Rutgers School of Communication and Information, ha creato uno strumento di moderazione dei commenti per YouTube per garantire che gli utenti come l’host di video in Brasile, che alla fine hanno chiuso il suo canale, possano lavorare senza paura di attacco. Chiamato FilterBuddy , lo strumento gratuito e open source è progettato per offrire ai creatori di contenuti professionali – chiunque si guadagni da vivere pubblicando su piattaforme di social media – il potere di proteggere se stessi e il proprio pubblico.
Per sviluppare FilterBuddy, Jhaver ha studiato gli strumenti di moderazione dei contenuti forniti di serie con piattaforme come YouTube, Facebook, Twitter e Twitch. Nelle interviste con 19 creatori provenienti da Americhe, Asia, Europa e Medio Oriente, Jhaver e colleghi dell’Università di Washington hanno scoperto che i creatori di contenuti, in particolare di comunità sottorappresentate, vengono spesso attaccati per il loro aspetto, le loro convinzioni e il loro background. “Hanno affrontato abusi sproporzionati, quindi hanno un bisogno sproporzionato”, ha detto.
Jhaver ha anche appreso che gli strumenti di filtraggio delle parole chiave forniti dalle piattaforme sono difficili da usare e in gran parte inefficaci. “Questi strumenti sono molto rudimentali, molto difficili da scalare e su molte piattaforme non puoi nemmeno cercare le regole di filtro che hai configurato”.
I risultati sono stati recentemente pubblicati negli Atti della Conferenza ACM CHI sui fattori umani nei sistemi informatici .
Sulla base di questi dati, Jhaver e colleghi hanno creato un sistema per i creatori di YouTube per supportare una migliore creazione, manutenzione e controllo dei filtri delle parole, che possono taggare e mettere in quarantena i commenti potenzialmente offensivi prima che diventino pubblici. FilterBuddy include anche un’anteprima interattiva di acquisizione del filtro (per testare l’efficacia del filtro prima della distribuzione), la possibilità di creare filtri creati da altri e grafici e tabelle di serie temporali per comprendere quali commenti vengono catturati da quali filtri nel tempo.
In definitiva, Jhaver spera che FilterBuddy ispiri le piattaforme a sviluppare internamente risorse più potenti e a facilitare la connessione delle app di terze parti.
“Abbiamo utilizzato strumenti di sviluppo standard per creare FilterBuddy, ma le funzionalità sono così apprezzate dalla comunità e così disperatamente necessarie”, ha affermato. “Il fatto che abbiamo costruito questo servizio con un budget ridotto dimostra che, al momento, le piattaforme non prestano sufficiente attenzione alle esigenze dei creatori”.
Soprattutto, ha affermato Jhaver, spera che il suo software contribuisca a creare uno spazio online più sicuro, per gli utenti e per i creatori. “Nessuno dovrebbe abbandonare il proprio lavoro a causa di commenti offensivi”, ha detto.
CREDITO
Per gentile concessione di Shagun Jhaver