Facebook mette al bando i “deepfake”

Verranno rimossi video e supporti manipolati e fuorvianti.

Monika Bickert: “Stiamo rafforzando la nostra politica nei confronti di video manipolati e fuorvianti che sono stati identificati come deepfake. In futuro, Facebook rimuoverà i contenuti modificati in modi che non risultano evidenti a una persona comune”.

Facebook dichiara guerra agli utenti che manipolano i media per fuorviare e distorcere la realtà.

Cosa sia un deepfake lo ha spiegato, in un post pubblicato sulla Newsroom del social,  Monika Bickert, Vicepresidente del Global Policy Management: “Le persone condividono milioni di foto e video su Facebook ogni giorno, – ha scritto – creando alcune delle immagini più avvincenti e creative sulla nostra piattaforma. Alcuni di questi contenuti vengono manipolati, spesso per ragioni benigne, come rendere più nitido un video o un audio. Ma ci sono persone che si impegnano nella manipolazione dei media per fuorviare”.

“Le manipolazioni – ha proseguito la manager – possono essere fatte attraverso una tecnologia semplice come Photoshop o attraverso sofisticati strumenti che usano l’intelligenza artificiale o tecniche di “deep learning” per creare video che distorcono la realtà, di solito chiamati “deepfakes”. Mentre questi video sono ancora rari su Internet, presentano una significativa sfida per il nostro settore e per la nostra società man mano che il loro uso aumenta”.

Il termine “deepfake” (parola coniata nel 2017) definisce una tecnica per la sintesi dell’immagine umana basata sull’intelligenza artificiale, usata per combinare e sovrapporre immagini e video veri  e falsi. Tecnica usata, ad esempio, per creare falsi video pornografici ritraenti celebrità e per il revenge porn, ma può anche essere usata anche per creare fake news, truffe e ricatti.

Nel post, l’azienda di Menlo Park fa sapere che rimuoverà i contenuti modificati “con metodi che non risultano evidenti a una persona comune, e che probabilmente indurrebbero a pensare che un soggetto del video abbia detto parole che in realtà non ha pronunciato”.

Per capire se un video sia manipolato o meno, Facebook si avvarrà dei suoi 50 partner mondiali per il fact checking in 40 lingue.

“Il nostro approccio ha diversi componenti: – ha precisato la Bickert – dall’indagine sui contenuti generati dall’Intelligenza Artificiale e dai comportamenti ingannevoli come gli account falsi, alla collaborazione con Università, Governi e aziende per far uscire allo scoperto gli autori dei falsi”.

La collaborazione è la chiave principale per combattere i deepfake. “Ecco perché lo scorso settembre – ha sottolineato la portavoce del social – abbiamo lanciato la Deep Fake Detection Challenge,  che ha spinto le persone di tutto il mondo a produrre più ricerche e strumenti open source per rilevare i deepfake. Questo progetto, supportato da  10 milioni  di dollari in sovvenzioni, include una collaborazione intersettoriale di organizzazioni tra cui la Partnership su AI, Cornell Tech, l’Università della California Berkeley, Mit, Witness, Microsoft, BBC e AWS, e i media e le comunità accademiche”, per creare video con ricercatori che spiegano come individuare i video contraffatti.

Facebook ha anche aperto una collaborazione con l’Agenzia Reuters, il più grande fornitore di notizie multimediali, per aiutare le redazioni di tutto il mondo a identificare i deepfake e i media manipolati attraverso un corso di formazione online gratuito. “Le redazioni giornalistiche – ha concluso la Bickert – fanno sempre più affidamento a terzi per i grandi volumi di immagini e video e identificare elementi visivi manipolati rappresenta una sfida significativa. Questo programma mira a supportare le redazioni che sono chiamate a fare questo tipo di riconoscimento”.