In che modo i social network stanno affrontando l'incitamento all'odio?
I programmi di intelligenza artificiale e i revisori dei contenuti umani reprimono i commenti offensivi online
Zach Gibson/AFP/Getty Images
L'incitamento all'odio non è un fenomeno nuovo per i siti web dei social network, ma la manifestazione di estrema destra di sabato a Charlottesville, in Virginia, che ha causato la morte di un manifestante ha portato le aziende ad agire contro i gruppi offensivi online.
Ecco come i più grandi gruppi di social media stanno rispondendo all'incitamento all'odio, nonché i loro piani per impedire la diffusione di contenuti offensivi:
A seguito dei violenti eventi di Charlottesville sabato, Engadget afferma che Facebook ha 'chiuso numerosi gruppi di odio sulla scia degli attacchi', inclusa la 'pagina dell'evento per la marcia Unite the Right che ha condotto la violenza'.
Il gigante dei social media utilizza una combinazione di intelligenza artificiale (AI) e revisori di contenuti umani per trovare l'incitamento all'odio, che Il Verge afferma che rimuove '66.000 messaggi di posta di odio a settimana'. Ma il sito afferma che Facebook 'fa molto affidamento' sugli utenti che segnalano contenuti come offensivi o odiosi.
A maggio, Facebook ha assunto altre 3.000 persone nel suo 'team di revisori dei contenuti', afferma TechCrunch , portando il totale a 7.500. Ciò è stato innescato da diversi 'scandali di moderazione dei contenuti' globali, incluso l'uso di Facebook Live 'per trasmettere omicidi e suicidi'.
Ma Cablata afferma che ci sono state situazioni in cui i 'revisori algoritmici e umani' dell'azienda hanno etichettato commenti o post come offensivi senza considerare il contesto. Ad esempio, il sito web dice che alcune parole 'gridate come insulti' sono a volte 'rivendicate' dai gruppi 'come mezzo di autoespressione'.
La politica di condotta odiosa di Twitter afferma che il servizio non 'consente account il cui scopo principale è incitare al danno verso gli altri' sulla base di aree come la razza o l'orientamento sessuale.
Il Indipendente segnala che negli ultimi mesi il sito ha introdotto più sistemi e strumenti per rilevare e rimuovere l'incitamento all'odio, oltre a migliorare il processo in cui i suoi utenti segnalano manualmente materiale offensivo.
Ma il sito di social media è stato in 'un bel po' di acqua calda negli ultimi mesi per quanto riguarda una percepita mancanza di azione sulla scia di minacce percepite', afferma TechCrunch , che ha portato un attivista a spruzzare 'linguaggio di odio per le strade fuori dalla sede berlinese dell'azienda'.
Sulla scia dello scontro di sabato, il sito Web afferma che l'account del gruppo di estrema destra The Daily Stormer è stato rimosso, sebbene 'i tweet di Trump che vacillano sull'orlo della minaccia di una guerra nucleare' sembrano essere in linea con la politica dell'azienda.
Anche il forum di chat Reddit ha represso l'incitamento all'odio. Engadget afferma che il sito web ha 'chiuso numerosi gruppi di odio sulla scia degli attacchi'.
Tra i gruppi rimossi dal sito dei social media c'era il subreddit /r/Physical_Removal, una pagina di Engadget dice che 'sperava che le persone nei subreddit anti-odio e alla CNN venissero uccise, sosteneva i campi di concentramento e scriveva persino poesie sull'uccisione'.
'Siamo molto chiari nei termini di servizio del nostro sito che la pubblicazione di contenuti che incitano alla violenza farà bandire gli utenti da Reddit', ha detto Reddit Cnet .
Sebbene Google non sia esclusivamente un social network, il gigante della tecnologia svolge un ruolo chiave nel dirigere il traffico Internet e le app social a cui gli utenti possono accedere.
Dopo lo scontro a Charlottesville sabato, TechCrunch afferma che l'azienda ha rimosso il 'social network conservativo' Gab dal suo Play Store poiché era diventato un 'rifugio' per gli utenti esclusi dalle piattaforme tradizionali.
Google afferma di non supportare 'contenuti che promuovono o condonano la violenza contro individui o gruppi' in base a determinati criteri, aggiungendo che dipende 'molto dagli utenti che ci comunichino contenuti che potrebbero violare le nostre norme'.
Ma TechCrunch afferma che 'non è chiaro cosa abbia fatto nello specifico Gab per giustificare il suo ritiro dal negozio', poiché l'app è una chat room e non sembra promuovere attivamente l'incitamento all'odio. Il sito web dice 'ci sono un sacco di incitamenti all'odio su Twitter e YouTube', ma questi sono ancora disponibili per il download nonostante la 'repressione' di questa settimana sui contenuti offensivi.
Secondo Il Verge , Gab 'non è mai stato approvato per il posizionamento sull'App Store di Apple'.
Cosa stanno facendo gli altri?
Uno dei casi notevoli della repressione dei discorsi di odio dopo gli eventi di sabato include il rivenditore di nomi di dominio web GoDaddy che ha sfrattato il sito Web di The Daily Stormer dal suo servizio, afferma Il registro .
Il sito web afferma che gli attivisti hanno detto al rivenditore che il gruppo ha fatto 'commenti straordinariamente volgari e denigratori' sulla vittima dell'attacco di Charlottesville, Heather Heyer. GoDaddy ha consegnato a The Daily Stormer 24 ore per 'spostare il dominio a un altro provider'.
Abbiamo informato The Daily Stormer che hanno 24 ore per trasferire il dominio a un altro provider, poiché hanno violato i nostri termini di servizio.
-GoDaddy (@GoDaddy) 14 agosto 2017
YouTube dovrebbe anche 'istituire linee guida più rigorose per quanto riguarda l'incitamento all'odio', riferisce TechCrunch . Questo potrebbe vedere più video rimossi dopo che gli utenti li hanno contrassegnati come offensivi, anche se non c'è nulla di illegale nel contenuto.
