I chatbot non sono imparziali: utenti a rischio manipolazione

Da uno studio della John Hopkins University emerge che i chatbot non sono imparziali. Infatti, pare che tendano a rispondere ciò che chi li interroga vuole sentirsi dire. Sebbene i loro sviluppatori non li progettino con questo scopo, i software conversazionali mirano a blandire gli utenti.

Sembra che con i chatbot avvenga la stessa cosa che accade quando si lancia una query su un motore di ricerca. In genere, si ricevono soprattutto conferme delle proprie convinzioni. Allo stesso modo, i software conversazionali tendono a consolidare i pregiudizi di chi pone loro domande. Analizzandone anche la formulazione, rassicurano l’interlocutore nelle proprie inclinazioni.

I test della Johns Hopkins University

La Johns Hopkins University ha realizzato una serie di test al riguardo con la supervisione di Ziang Xiao, professore associato di Computer Science.

I ricercatori hanno interpellato 272 persone cui è stato, in un primo tempo, richiesto di scrivere ciò che pensavano su una serie di argomenti. Gli stessi sono stati, in seguito, invitati ad approfondire quei temi interrogando sia motori di ricerca sia chatbot. Il loro comportamento rivela che gli interroganti tendono a proseguire nella ricerca cliccando sui link che li confortano nelle proprie opinioni.

La camera dell’eco

Secondo quanto emerge dallo studio, si cercano soprattutto informazioni che non smentiscano ciò che già si pensa su un determinato argomento. Agendo in tal modo, si moltiplica l’effetto “camera dell’eco” di opinioni affini. In sociologia e in psicologia si parla di pregiudizio di conferma proprio quando si ricercano dati che non contraddicano la visione del mondo dell’interrogante.

Il fenomeno della camera di risonanza (o echo chamber) riguarda la sociologia, l’economia comportamentale e la fisica. Si verifica quando qualcuno che fa parte di una rete sociale è esposto soprattutto a opinioni in linea con quelle che già ha, scartando quelle divergenti. Si manifesta spesso nei social media e nelle piattaforme digitali, spazi virtuali in cui è favorito dagli algoritmi e dalla personalizzazione.

Le cause della polarizzazione delle opinioni

Tale dinamica è causata dal bisogno di appartenenza proprio di ogni essere umano e dal cosiddetto bias confermativo. In base a questo fenomeno cognitivo, si attribuisce maggiore credibilità ai dati che confermano le proprie ipotesi o convinzioni. Le echo chambers danno vita spesso a forti polarizzazioni delle opinioni e favoriscono la contrapposizione fra gruppi con credenze opposte. La conseguenza più negativa è l’isolamento di tali raggruppamenti di individui. Il rifiuto di confrontarsi con punti di vista alternativi, infatti, favorisce l’intolleranza.

Inoltre, l’assolutizzazione delle proprie convinzioni mina la disponibilità alla conciliazione. Ovviamente a beneficio di coloro che puntano a manipolare chi non è disposto a mettersi in discussione. Se questo fenomeno era già stato rilevato per quanto concerne le ricerche online, il suo impatto cresce, nel caso dei software conversazionali.

Articolo di M. P.