Instagram è ben conscia che la situazione di odio e razzismo è ormai endemica sui social network, non è un mistero, e la situazione di tensione tra minoranze etniche e razzisti non è affatto migliorata negli ultimi 6 anni, anzi, secondo alcuni sociologi è da considerarsi una pentola a pressione da troppo lasciata sul fuoco, e se qualcuno non interverrà l’esplosione potrebbe essere catastrofica.
Il sistema di moderazione interno ai social è ormai ingestibile, se si pensa che solo Facebook ha circa 2 miliardi di utenti, e Instagram 1 miliardo di utenti attivi, il problema diventa più che evidente, quindi un’azione decisiva è diventata non solo importante, ma necessaria.
Alcuni filtri su Instagram possono essere già attivati, come la possibilità di non visualizzare certe parole offensive, o segnalare un contenuto non idoneo, ma come funziona sui direct? Ecco il problema che i responsabili di Instagram hanno spiegato sul loro blog.
“Poiché i messaggi diretti sono conversazioni private, non cerchiamo in modo proattivo l’incitamento all’odio o il bullismo come facciamo altrove.”
Quindi i direct nel tempo sono diventati letteralmente il far-west dell’odio, sono stati segnalati incidenti in quasi tutti i continenti. Gran parte del mondo ora comunica sui social media, con quasi un terzo della popolazione mondiale attiva.
I social media catalizzano i crimini d’odio? La soluzione di Instagram potrebbe fare la differenza
Poiché sempre più persone si sono trasferite online, dicono gli esperti, le persone inclini al razzismo, alla misoginia o all’omofobia hanno trovato nicchie che possono rafforzare le loro opinioni e spingerle alla violenza.
Le piattaforme di social media offrono anche agli users violenti l’opportunità di pubblicizzare le loro azioni. I sociologi e altri hanno osservato come i post sui social media e altri discorsi online possano ispirare atti di violenza:
- In Germania è stata trovata una correlazione tra i post su Facebook anti-rifugiati del partito di estrema destra Alternative for Germany e gli attacchi ai rifugiati. Gli studiosi Karsten Muller e Carlo Schwarz hanno osservato che aumenti negli attacchi, come incendi dolosi e aggressioni, seguivano picchi nei messaggi di incitamento all’odio.
- Negli Stati Uniti, gli autori dei recenti attacchi della supremazia bianca sono circolati tra le comunità razziste online e hanno anche abbracciato i social media per pubblicizzare le loro azioni.
- I pubblici ministeri hanno detto che l’assassino della chiesa di Charleston, che ha ucciso nove sacerdoti e fedeli neri nel giugno 2015, si è impegnato in un “processo di autoapprendimento” online che lo ha portato a credere che l’obiettivo della supremazia bianca richiedesse un’azione violenta.
- Il tiratore della sinagoga di Pittsburgh del 2018 ha partecipato al social network Gab, le cui regole lassiste hanno attirato estremisti banditi dalle piattaforme più grandi. Lì, ha sposato la cospirazione secondo cui gli ebrei cercavano di portare immigrati negli Stati Uniti e rendere i bianchi una minoranza, prima di uccidere undici fedeli durante un servizio di Shabbat a tema rifugiati. Questo topic del “grande sostituto”, che è stato ascoltato al raduno della supremazia bianca a Charlottesville, in Virginia, un anno prima e ha origine dall’estrema destra francese, esprime ansie demografiche sull’immigrazione non bianca e sui tassi di natalità. Il grande topic sostitutivo è stato a sua volta sposato dall’autore delle sparatorie alla moschea della Nuova Zelanda del 2019, che ha ucciso quarantanove musulmani in preghiera e ha cercato di trasmettere l’attacco su YouTube.
- In Myanmar, leader militari e nazionalisti buddisti hanno utilizzato i social media per insultare e demonizzare la minoranza musulmana Rohingya prima e durante una campagna di pulizia etnica. Sebbene i Rohingya rappresentassero forse il 2% della popolazione, gli etnonazionalisti affermarono che presto i Rohingya avrebbero soppiantato la maggioranza buddista.
- La missione conoscitiva delle Nazioni Unite ha dichiarato: “Facebook è stato uno strumento utile per coloro che cercano di diffondere l’odio, in un contesto in cui, per la maggior parte degli utenti, Facebook è Internet“.
- In India, i linciaggi e altri tipi di violenza comunitaria, in molti casi originati da voci su gruppi WhatsApp, sono aumentati da quando il partito nazionalista indù Bharatiya Janata Party (BJP) è salito al potere nel 2014. Allo stesso modo, lo Sri Lanka ha visto diffondersi online un vigilantismo ispirato a voci che prendono di mira la minoranza musulmana tamil. Durante un’ondata di violenze nel marzo 2018, il governo ha bloccato l’accesso a Facebook e WhatsApp, nonché all’app di messaggistica Viber, per una settimana, affermando che Facebook non era stato sufficientemente reattivo durante l’emergenza.
Instagram ha sentito il dovere di reagire fermamente, l’azienda si è consultata con gruppi anti-discriminazione e anti-bullismo per studiare un elenco di termini, frasi ed emoji ritenuti offensivi. Ad esempio, il Liverpool Football Club ha criticato la piattaforma dopo che ad alcuni dei suoi giocatori sono stati inviate emoji razziste di scimmie.
Ma gli utenti potranno anche aggiungere le proprie definizioni a questo elenco, tramite la sezione Parole Nascoste delle impostazioni sulla privacy dell’app. Questa funzione esiste già per filtrare gli abusi nei commenti sui post di Instagram, si aggiungerà per i direct di persone che a loro volta non segui.
