Comunità in rete per il contrasto delle nuove frontiere dell’odio online. Istituzioni e società civile nel contrasto al discorso di odio online

Si è tenuta il 23 marzo 2023 al Binario F a Roma, in Via Marsala 29/H la conferenza conclusiva del progetto Reason “Comunità in rete per il contrasto delle nuove frontiere dell’odio online. Istituzioni e società civile nel contrasto al discorso di odio online”.

«Il tema del discorso d’odio è fondamentale come focus da approfondire, sia nella sua dimensione virtuale che in quella fisica - sottolinea Mattia Peradotto, direttore UNAR, e prosegue – non è senz’altro un percorso finito ma piuttosto un punto di partenza, una strada da continuare in maniera condivisa».

E la dimensione collettiva è essenziale anche per Milena Santerini, Docente ordinaria di pedagogia generale, direttrice del centro di ricerca sulle relazioni interculturali, Università Cattolica del Sacro Cuore di Milano «lavorare insieme è l’unico modo per fare qualcosa di efficace. La rete non va esclusa o ostracizzata, ma inclusa, gestita e compresa. Dobbiamo studiare come le reti e chi le gestisce si relazionino».

Il lavoro di analisi del progetto è stato condotto da IRS, per il quale interviene Elena Ferrari, ricercatrice Istituto per la ricerca sociale «abbiamo fatto il lavoro di analisi partendo da Twitter. Da circa un milione di tweet scaricati, circa 17.000 sono stati di odio, i tre ambiti a cui afferiscono i commenti di odio sono per il colore della pelle, l’antisemitismo e l’islamofobia, misurati con intensità diverse di colore. L'ambito nel quale la quota di messaggi di odio è più elevata è l'islamofobia e quello nel quale è riscontrabile la percentuale di messaggi con intensità di odio maggiore è l'antisemitismo».

Uno dei prodotti formativi del progetto è il MOOC, così Stefano Pasta, ricercatore in didattica e pedagogia speciale, Università cattolica del Sacro Cuore «il MOOC ha avuto diverse centinaia di partecipanti, una formazione che si può replicare come buona prassi. È stato inoltre interessante il lavoro sinergico realizzato con i giovani, di ampio respiro, con l’obiettivo di innescare un processo, ovvero una serie di incontri duranti i quali portare avanti un dibattito sulle diverse forme di discriminazione. Oggi i ragazzi sono spettAutori e non solo spettatori. Quello che ha unito queste formazioni con i giovani è stato il ragionare, come, dentro la categoria odio entrino forme così differenti di odio».

«Le risposte alle forme di odio e pregiudizi debbono necessariamente essere variegate - così Giovanna Maiola, ricercatrice osservatorio di Pavia, esperta dei media e consulente Osce – Odhir Inoltre, è interessante rilevare come, anche qualora non siano presenti forme di incitamento, possono esserci dei meccanismi retorici che supportano la discriminazione, sono più insidiosi».

Altrettanto importante è l’aspetto normativo, rispetto al quale, Rosa Cavallaro, funzionario direzione servizi media AGCOM, sottolinea come «la normativa stabiliva la non discriminazione ma senza presidi sanzionatori, e stiamo lavorando con normative e commi per regolamentare».

Racconta un efficace lavoro di rete Francesca Capaldo, vice questore della Polizia di Stato, direttrice della Segreteria dell’OSCAD «l’attività di formazione congiunta in questo progetto è stata particolarmente utile. Abbiamo cercato di essere presenti in diverse tipologie di incontri, formazioni, eventi di diversa natura, in moda da raggiungere un pubblico il più ampio possibile».

L’odio si annida, come rileva Grazia Naletto, esperta di migrazioni, welfare e razzismo, Lunaria, «la messaggistica privata spesso è utilizzata per trasmettere contenuti d’odio, questo è un fenomeno che sta crescendo, lì è molto difficile contrastare l’odio, sia identificarlo che contrastarlo, per questo dico che proprio questo lavoro di alfabetizzazione ai media, e quindi di sensibilizzazione culturale diventa decisamente prioritario ed è questa la sfida per il futuro».

Interviene Djarah Khan, scrittrice, che legge e condivide un suo scritto e riflette con il pubblico sull’importanza della parola, sul valore intrinseco di ciascuna di essa.

La seconda parte della conferenza finale è dedicata alle piattaforme quali Google, Meta e Tik Tok, interviene nell’introduzione Matteo Flora, professore (a.c) in Corporate Reputation & Business Storytelling, in Cybersecurity ed in Data Driven Strategies, presidente di Permesso Negato APS, e lo fa in contrasto con lo strumento delle segnalazioni «le segnalazioni sono armi spuntate, difficile avere la rimozione del contenuto d’odio, e troppo poco per coprire la marea di commenti online. Tuttavia sono convinto che l’intelligenza artificiale non sia la risposta alla moderazione e gestione dei contenuti. Nella prospettiva immediata penso sia fondamentale avere una trasparenza sulla tempistica di gestione dei commenti».

Risponde sulla sicurezza e non solo Luana Lavecchia Public Policy Manager Italy, Tik Tok, «abbiamo cercato di aumentare allo stesso livello sia gli utenti che la sicurezza. Ora che vediamo come la forbice di utenza si sia ampliata. Per noi l’intelligenza artificiale è utile per contribuire alla moderazione, ad esempio il video dello stupro durante la campagna elettorale è stato rimosso dall’AI. I trusted flagger non sono dei moderatori ma li “usiamo” soprattutto come consulenti per capire l’andamento dei problemi».

«Fare policy con cognizione di causa, consapevolmente e con l’obiettivo di contrastare l’hate speech è uno dei nostri target. Senza scoraggiarsi ma cercando di fare sempre meglio», così Costanza Andreini, Public Policy Manager Meta Italy e Greece.

Conclude Martina Colasante, governement affairs and public policy manager, Google Italia «alcuni contenuti che possono colpire delle sensibilità magari non graditi a tutti gli utenti presenti in piattaforma. La nostra strategia di rimozione si basa, tra l’altro, anche nel non dare rilevanza ai contenuti d’odio. In Search tuttavia non possiamo impedire accesso al contenuto, possiamo deindicizzarlo per provare a scoraggiare la curiosità, su contenuti d’odio, antisemiti».

L’incontro di stasera è conclusivo di un percorso iniziato due anni fa. Il progetto è stato coordinato per l’UNAR da Roberto Bortone, funzionario dell’Ufficio Nazionale Antidiscriminazioni Razziali della Presidenza del Consiglio dei Ministri e si è svolto in partenariato con l’Università Cattolica del Sacro Cuore, IRS - Istituto per la ricerca sociale SCARL e Associazione Carta di Roma. “REASON” - REAct in the Struggle against ONline hate speech, ha avuto inoltre l’adesione del Ministero della Giustizia, del Ministero dell’Interno (OSCAD e Polizia Postale), del Ministero dell’Istruzione, di AGCOM, di ANCI, del Comune di Milano, di Amnesty International Italia, del COSPE, di Lunaria, di Arci, di Arcigay, della Rete Nazionale per il contrasto ai discorsi e ai fenomeni d’odio.

Agire nella direzione di diffondere tale consapevolezza ha permesso di realizzare alcuni importanti strumenti: i MOOC (moduli di formazione asincrona realizzati all’interno del progetto in grado di connettere la dimensione teorica del contrasto all’hate speech alla dimensione pratica); gli incontri realizzati con gli studenti, con i professionisti della comunicazione, con i rappresentanti delle istituzioni, con i rappresentanti delle forze dell’ordine; la produzione di linee guida e di toolkit.

Strumenti che hanno una ricaduta pratica e che ci indicano la strada da percorrere per affrontare le sfide del futuro.

Per consultare il toolkit clicca qui

Per consultare la cartellina stampa clicca qui