Meta contro i terroristi: ecco la sua nuova arma, è davvero incredibile ed efficiente
Hasher-Matcher-Actioner, o più semplicemente HMA, il diminutivo che sta andando per la maggiore. Si chiama così l’ultima idea di Mark Zuckerberg.
D’altronde il CEO di Meta ne sa qualcosa: la moderazione dei contenuti online è difficile e complessa. Così il buon Mark spera di rendere le cose più facili sulle sue applicazioni, Facebook e Instagram; Messenger e l’ormai iconico WhatsApp.
La scorsa settimana ha annunciato che avrebbe aperto il codice sorgente per il suo strumento Hasher-Matcher-Actioner e lo avrebbe reso disponibile gratuitamente. Una scelta figlia anche di un contesto storico per preciso: proprio Meta assumerà la presidenza del consiglio operativo del Global Internet Forum to Counter Terrorism.
Il software open source sviluppato da Meta, consentirà alle piattaforme online di automatizzare il processo di hashing di qualsiasi immagine o video, confrontandolo con un database e intraprendendo azioni contro di esso, come interrompere la pubblicazione del video o bloccare l’account che tenta di farlo. Non solo.
HMA Non si limiterà soltanto ai contenuti terroristici e può funzionare con un database condiviso come quello gestito da GIFCT o proprietario come Content ID di YouTube. Tutto, naturalmente in background. Sempre.
Un processo continuo per impedire la diffusione di contenuti discutibili
Una volta che HMA o qualsiasi altro strumento automatizzato simile è attivo e funzionante, tutte le foto e i video pubblicati dagli utenti verranno sottoposti ad hashing e confrontati con i database pertinenti mentre vengono caricati. Se qualcosa viene successivamente contrassegnato dai moderatori come violento, offensivo o altrimenti giustificante la rimozione, può essere rimosso automaticamente. È un processo continuo che si sforza di impedire la visualizzazione o la diffusione di contenuti discutibili.
La maggior parte delle piattaforme opera già con una sorta di moderazione automatizzata dei contenuti, ma Meta ha intenzione di alzare l’asticella: spera che il suo HMA aiuti le aziende più piccole che non dispongono delle risorse delle piattaforme principali. “Molte aziende non dispongono delle capacità tecnologiche interne per trovare e moderare i contenuti in violazione in volumi elevati“. Parte da qui Nick Clegg, ex vice primo ministro del Regno Unito e ora presidente degli affari globali di Meta.
Maggiore è il numero di aziende che partecipano al database hash condiviso, migliore – sempre secondo Meta – sarà la rimozione di contenuti discutibili. “Le persone – conclude Clegg – si sposteranno spesso da una piattaforma all’altra per condividere questi contenuti“.