IA Instagram ora utilizza l'apprendimento automatico per rilevare il bullismo all'interno delle foto

Instagram e i suoi utenti traggono vantaggio dalla proprietà dell'app da parte di Facebook, che investe tonnellate di nuove tecnologie di intelligenza artificiale. Ora che l'intelligenza artificiale potrebbe aiutare a mantenere Instagram più tollerabile per gli umani. Oggi Instagram ha annunciato un nuovo set di funzionalità anti-cyberbullismo. Ancora più importante, ora può utilizzare l'apprendimento automatico per scansionare otticamente le foto postate nell'app per rilevare il bullismo e inviare il post ai moderatori della community di Instagram per la revisione. Ciò significa che i molestatori non potranno semplicemente scribacchiare note minacciose o diffamatorie e postare una loro foto per aggirare i filtri di testo di Instagram per il bullismo.

Nel suo primo post sul blog rivolto direttamente agli utenti di Instagram, il nuovo leader della divisione Adam Mosseri scrive "Non c'è posto per il bullismo su Instagram. . . Come nuovo capo di Instagram, sono orgoglioso di rafforzare il nostro impegno nel rendere Instagram una community gentile e sicura per tutti ". Il filtro per foto e didascalie uscirà nelle prossime settimane.

Instagram ha lanciato il filtro del testo per il bullismo a maggio, ma ciò avrebbe potuto semplicemente spingere i troll ad attaccare le persone attraverso le immagini. Ora, il suo classificatore di bullismo può identificare le molestie nelle foto, inclusi insulti al carattere, all'aspetto, al benessere o alla salute di una persona. Instagram conferma che il filtro immagine funzionerà nei feed e nelle storie. "Sebbene questo aggiornamento si concentri solo sulle foto, lavoreremo per aggiungere protezioni per i video, tra cui IGTV, molto presto" mi dice un portavoce.

Gli utenti di Instagram vedranno l'impostazione "Nascondi commenti offensivi" come predefinita nelle loro impostazioni. Possono anche scegliere di elencare manualmente le parole che desiderano filtrare dai loro commenti e possono scegliere di filtrare automaticamente le parole più comunemente segnalate. Con il testo, è in bianco e nero, quindi Instagram può bloccare solo le parole chiave. Con le immagini, non consentirà all'IA di riprodurre il boia, e invece usa il filtro per indirizzare i post ai moderatori umani che effettuano la chiamata finale.

Nel frattempo, Instagram sta espandendo il suo filtro proattivo per il bullismo nei commenti da feed, Esplora e profilo per proteggere anche le trasmissioni in diretta. Sta lanciando un effetto "Kindness" in collaborazione con Maddie Ziegler, meglio conosciuta come la versione per ballerini di Sia dal suo video musicale "Chandelier". L'effetto genera la tua immagine con cuori e commenti positivi in diverse lingue, mentre ti suggerisce di taggare un amico a cui tieni. Sarà visibile nella barra degli effetti della fotocamera degli utenti se seguono Ziegler, o se vedono un amico usarlo, possono provarlo da soli.

Affinché Instagram rimanga l'app preferita degli adolescenti, non può permettere che questa comunità vulnerabile sia vittima di violenza. Si è parlato molto di Facebook che ha interferito con Instagram dopo che i co-fondatori dell'app delle foto si sono dimessi. Ma la massiccia organizzazione di ingegneria della casa madre offre economie di scala su Instagram che sbloccano la tecnologia come questo filtro del bullismo che una startup indipendente potrebbe non essere in grado di sviluppare.