AI Safety and Alignment, nuova divisione Google per sicurezza IA

Immagine ripresa da www.ai.google.com.

Google DeepMind, azienda di IA controllata da Alphabet, ha dato vita a una nuova divisione chiamata AI Safety and Alignment. Si occuperà della sicurezza dell’Artificial General Intelligence (AGI).

L’AGI è un sistema di Intelligenza Artificiale autonoma e capace di svolgere (potenzialmente) qualsiasi attività umana.

La squadra del AI Safety and Alignment è formata da team esistenti di ingegneri e ricercatori e nuovi gruppi specializzati in sicurezza dell’AGI e dovrà occuparsi di sviluppo responsabile dell’IA e di gestione dei rischi.

Un nuovo step Google verso l’IA responsabile

L’équipe non si dedicherà solo alla sicurezza in ambito AGI. Infatti, la nuova divisione sta sperimentando nuove misure di sicurezza per il modello Gemini di Google, recentemente sospeso per la produzione di immagini errate.

Per quanto riguarda i sistemi di controllo già in uso e i nuovi in lavorazione, l’AI Safety and Alignment pone degli obiettivi a breve termine: proteggere i minori, evitare consigli medici errati e prevenire la diffusione di pregiudizi, ingiustizie e discriminazioni.

Il team sarà guidato da Anca Dragan, ricercatrice per Waymo (ex progetto Google per la produzione di driverless car) e professoressa della UC Berkeley. L’esperta ha sottolineato, in un’intervista al giornale tecnologico TechCrunch, che il team vuole far raggiungere alle IA di Google un certo livello di resistenza agli attacchi informatici, vuole sensibilizzarle ai valori umani, fare loro rispettare le diversità e la dinamicità cognitiva umana.

Articolo di T.S.

uspi