Sviluppo IA: i modelli chiedano aiuto quando non sanno

Immagine realizzata con IA.

Il problema principale dell’Intelligenza Artificiale (IA), almeno nelle parole del Direttore di Microsoft, Vik Singh, è la sua incapacità di riconoscere i propri fallimenti e di chiedere aiuto prima di dare risposte errate.

SOS AI: sempre più errori

I casi di disinformazione, misinformazione ed errori storici determinati dall’utilizzo dell’IA sono numerosi e conosciuti. Casi celebri includono consigli dannosi da parte del sistema AI Overview, che invita a lanciare tostapane accesi nella vasca da bagno per rilassarsi o condire la propria pizza con la colla. O anche immagini a sfondo storico generate dal sistema AI di Google, Gemini, che presentano palesi inaccuratezze, come padri fondatori o soldati Nazisti di etnia nera, asiatica o indigena.

Nonostante i vantaggi di tempo e costi che questa tecnologia rappresenta, questi inconvenienti sono molto presenti per passare inosservati o essere considerati parte del procedimento. Se ne preoccupa soprattutto Vik Singh, il vicepresidente della Microsoft, società molto attiva nello sviluppo e nello studio dell’IA.

“In tutta franchezza, la cosa che manca davvero oggi è che un modello non alza le mani dicendo ‘Hey, non sono sicuro, ho bisogno di aiuto’”. Queste le sue parole in un’intervista per AFP. Il manager, infatti, sostiene che errori così vistosi sono un problema importante da risolvere perché un chatbot così utilizzato non può inventarsi risposte.
“Persone molto capaci stanno lavorando su questo problema”, ha aggiunto, “in modo che i modelli chiedano aiuto quando non sanno”.

M.F.Z.

uspi