Facebook non è riuscito a impedire che la sua piattaforma venisse utilizzata per mettere all'asta una ragazza di 16 anni in matrimonio nel Sud Sudan.
Il matrimonio precoce e forzato del bambino (CEFM) è la forma più comunemente segnalata di violenza di genere nel Sud Sudan, secondo un recente rapporto di Plan International sulla miriade di rischi per le ragazze adolescenti che vivono nella regione devastata dalla guerra.
Ora sembra che anche le ragazze in quella parte del mondo debbano preoccuparsi dei social media.
Vice ha raccontato la storia in dettaglio ieri, sottolineando che Facebook ha preso il posto all'asta ma non prima che la ragazza fosse già stata sposata e più di due settimane dopo che la famiglia aveva annunciato l'attenzione a vendere il bambino tramite la sua piattaforma, 25 ottobre.
Facebook ha detto di aver appreso per la prima volta il post dell'asta il 9 novembre, dopo di che dice di averlo rimosso entro 24 ore. Non è chiaro quante ore su 24 ci sia voluto Facebook per prendere la decisione di rimuovere il post.
Un uomo d'affari multimilionario della capitale del Sud Sudan avrebbe vinto l'asta dopo aver offerto un "prezzo" record - di 530 mucche, tre auto V8 Land Cruiser e $ 10.000 - per sposare il bambino, Nyalong Ngong Deng Jalang.
Plan International ha detto a Vice che il primo incidente conosciuto di Facebook è stato usato per mettere all'asta una sposa bambina.
"È davvero preoccupante perché, trattandosi di un'operazione così redditizia e ha attirato così tanta attenzione, siamo preoccupati che ciò possa rappresentare un incentivo per gli altri a seguire l'esempio", ha detto l'organizzazione di sviluppo a Vice.
Una diversa ONG per i diritti umani ha postato su Twitter uno screengrab del post dell'asta cancellato, scrivendo: "Nonostante i vari appelli lanciati dal gruppo per i diritti umani, una bambina di 16 anni è stata vittima di un'asta di un matrimonio online, che non è stata Facebook in Sud Sudan. "
Chiedendo spiegazioni a Facebook di spiegare come mai non ha agito in tempo per impedire l'asta e ci ha inviato la seguente dichiarazione, attribuita a un portavoce:
Qualsiasi forma di traffico di esseri umani - se i post, le pagine, gli annunci o i gruppi non sono consentiti su Facebook. Abbiamo rimosso il post e disattivato permanentemente l'account appartenente alla persona che lo ha pubblicato su Facebook. Miglioriamo costantemente i metodi che utilizziamo per identificare i contenuti che infrangono le nostre politiche, tra cui il raddoppiamento del nostro team di sicurezza e protezione per oltre 30.000 e l'investimento in tecnologia.
Il ritardo di oltre due settimane tra il rilascio dell'asta e la rimozione del post dell'asta da parte di Facebook solleva seri interrogativi in merito alle sue affermazioni di aver fatto notevoli investimenti per migliorare i suoi processi di moderazione.
I gruppi per i diritti umani hanno cercato direttamente di contrassegnare il post su Facebook. L'asta avrebbe anche attirato l'attenzione dei media locali. Eppure non riusciva ancora a notarlo e ad agire fino a settimane dopo - quando ormai era troppo tardi perché la ragazza era stata venduta e sposata.
Facebook non pubblica dati a livello nazionale sulla sua piattaforma, quindi non è chiaro quanti utenti ha nella regione del Sud Sudan.
Né offre una ripartizione dei luoghi delle circa 15.000 persone che impiega o si impegna a svolgere compiti di revisione dei contenuti attraverso la sua piattaforma di contenuto globale (che ha utenti 2BN +).
Facebook ammette che i revisori dei contenuti che utilizza non parlano tutte le lingue del mondo in cui viene utilizzata la sua piattaforma. Né parlano nemmeno tutte le lingue che sono ampiamente usate nel mondo. Quindi è altamente improbabile che abbia qualche recensore con una forte conoscenza delle lingue indigene parlate nella regione del Sud Sudan.
Abbiamo chiesto a Facebook quanti moderatori impiega chi parla una delle lingue nella regione del Sud Sudan (che è multilingue). Una portavoce non è stata in grado di fornire una risposta immediata.
Il risultato di Facebook che effettua la moderazione dei contenuti retrospettivi da lontano, basandosi su un numero limitato di revisori (rispetto ai suoi utenti totali), è che l'azienda non riesce a rispondere ai rischi per i diritti umani come dovrebbe.
Facebook non ha creato team sul campo in tutta la sua attività internazionale con le necessarie sensibilità linguistiche e culturali per essere in grado di rispondere direttamente, o anche rapidamente, ai rischi creati dalla sua piattaforma in tutti i mercati in cui opera. (Gran parte dei revisori si trovano in Germania - che ha approvato una legge sui diritti di odio dei social media un anno fa).
L'IA non risolverà anche questo problema molto difficile - non in una scala temporale umana. E nel frattempo Facebook sta lasciando che i veri umani prendano il controllo.
Ma due settimane prima di notare e sottrarre un'asta da sposa per bambini non è il tipo di metrica che ogni azienda vuole misurare.
È sempre più chiaro che l'incapacità di Facebook di investire adeguatamente in tutte le sue attività internazionali per sorvegliare e gestire l'impatto sui diritti umani dei suoi strumenti tecnologici può davvero avere un costo molto elevato.
Nel Sud Sudan la mancanza di un'adeguata supervisione ha portato la sua piattaforma a essere riproposta come l'equivalente di un mercato degli schiavi ad alta tecnologia.
Anche Facebook continua ad essere preso all'amo per gravi mancanze in Myanmar, dove la sua piattaforma è stata accusata di diffondere incitamento all'odio e di accelerare la violenza etnica.
Non devi guardare lontano per vedere altri abusi dei diritti umani aiutati e incoraggiati dall'accesso a strumenti di social media non controllati
