Google, AI Overview dà risposte insensate e dannose

L’algoritmo dell’intelligenza artificiale di Google tende a dare consigli sbagliati a chi ne fa uso, alcuni dannosi e poco sicuri.

Google AI: consigli pericolosi

Mettere colla sulla propria pizza per completare la ricetta; e, se la fame non passa, ingoiare qualche ciottolo. Cucinare con la benzina, anche se “non è raccomandata per cucinare a casa dato che è altamente infiammabile”. Oppure, per rilassarsi, gettare un tostapane nella vasca da bagno. 

Questi sono solo alcuni dei consigli, delle informazioni e delle dritte per facilitare la vita messe a disposizione dal sistema AI di Google. Si tratta di AI Overview, una nuova feature implementata sul celebre motore di ricerca. L’obiettivo del sistema era ovviamente quello di fornire risposte rapide alle query degli utenti, riassumendo le informazioni trovate sul web. 

Spesso, però, l’algoritmo sembra confondere finzione e verità. Sono dunque numerosi i casi di queries in cui il sistema, anziché fornire un’indicazione consigliabile, ha risposto con suggerimenti insensati, illogici e addirittura dannosi. 

La risposta di Meghann Farnsworth, portavoce di Google, è che gli esempi di errore rappresentano un necessario passaggio didattico nel motore di ricerca. Un punto di partenza, dunque, per imparare e affinare l’algoritmo.

Le altre IA di Google

AI Overviews rappresenta solo una parte delle nuove funzionalità introdotte da Google nei suoi primi passi con l’IA. Chi non apprezza questo sistema riassuntivo e preferisce consultare di prima mano i siti può fare uso del filtro detto “web”, che dà priorità ai siti scritti e permette di orientare la propria ricerca unicamente in ambito testuale. 

Presenti anche altri, numerosi strumenti digitali. Da Music AI Sandbox, nato da un’idea dell’ex rapper dei Fugées Wyclef Jean, in grado di comporre passaggi strumentali, al generatore di filmati VEO, fino ad arrivare al sistema principale, Google Gemini. Tra le nuove funzioni del sistema si annoverano una sintesi rapida di contenuti delle e-mail, un sistema d’allarme dalle telefonate spam, alla funzione Gems del suo chatbot, che imparerà le preferenze e i gusti dell’utente mano a mano che ne fa uso. 

M.F.Z.