Facebook, IA per anticipare trend negativi sui contenuti d’odio

Eliminati 31,5 milioni di contenuti di incitamento all’odio su Facebook. E tutto grazie agli algoritmi di Intelligenza Artificiale che nel secondo semestre 2021 (aprile-giugno) hanno totalizzato questo importante risultato. Infatti, nel trimestre precedente erano stati 25,2 milioni i contenuti rimossi perché contenenti odio. 

In ogni caso, questo tipo di post sono in aumento sia su Facebook che su Instagram dove i team dedicati hanno rimosso 9,8 milioni di post, rispetto ai 6,3 milioni del periodo da gennaio a marzo. 

A dirlo è il recente ‘Report sull’applicazione degli Standard della Comunità’ che riporta dati chiari i quali pongono in evidenza i miglioramenti nell’uso dell’IA, finalizzata al rilevamento proattivo. 

“I nostri investimenti in Intelligenza Artificiale ci permettono di rilevare più tipi di violazioni relative ai discorsi di incitamento all’odio su Facebook e Instagram. Questa tecnologia ci aiuta a far rispettare le policy per miliardi di utenti e in più lingue. Gli avanzamenti costanti e continui, come il Reinforcement Integrity Optimizer (RIO), consentono ai modelli di individuare i discorsi negativi, utilizzando i dati provenienti dal mondo reale“, fanno sapere da Facebook.

L’attenzione di Facebook, circa odio e abusi, è sempre più rivolta ai minori. Sono state aggiunte anche le categorie ‘nudità e abuso fisico’ e ‘sfruttamento sessuale’, così da fornire una panoramica più dettagliata e trasparente degli sforzi in questo ambito.