Web e Innovazione

AI Safety and Alignment, nuova divisione Google per sicurezza IA

Google DeepMind, azienda di IA controllata da Alphabet, ha dato vita a una nuova divisione chiamata AI Safety and Alignment. Si occuperà della sicurezza dell’Artificial General Intelligence (AGI).

L’AGI è un sistema di Intelligenza Artificiale autonoma e capace di svolgere (potenzialmente) qualsiasi attività umana. 

La squadra del AI Safety and Alignment è formata da team esistenti di ingegneri e ricercatori e nuovi gruppi specializzati in sicurezza dell’AGI e dovrà occuparsi di sviluppo responsabile dell’IA e di gestione dei rischi.

Un nuovo step Google verso l’IA responsabile

L’équipe non si dedicherà solo alla sicurezza in ambito AGI. Infatti, la nuova divisione sta sperimentando nuove misure di sicurezza per il modello Gemini di Google, recentemente sospeso per la produzione di immagini errate. 

Per quanto riguarda i sistemi di controllo già in uso e i nuovi in lavorazione, l’AI Safety and Alignment pone degli obiettivi a breve termine: proteggere i minori, evitare consigli medici errati e prevenire la diffusione di pregiudizi, ingiustizie e discriminazioni

Il team sarà guidato da Anca Dragan, ricercatrice per Waymo (ex progetto Google per la produzione di driverless car) e professoressa della UC Berkeley. L’esperta ha sottolineato, in un’intervista al giornale tecnologico TechCrunch, che il team vuole far raggiungere alle IA di Google un certo livello di resistenza agli attacchi informatici, vuole sensibilizzarle ai valori umani, fare loro rispettare le diversità e la dinamicità cognitiva umana. 

Articolo di T.S.

uspi

Recent Posts

Vincono Berrettini E Sinner, ItalDavis in finale con Olanda

MALAGA (SPAGNA) (ITALPRESS) - L'Italtennis si qualifica per l'ultimo atto delle Davis Cup Finals. Nella…

23 Novembre 2024

Conte “Costituente M5S è la risposta all’astensionismo”

ROMA (ITALPRESS) - "Il processo costituente è stato assolutamente partecipato, il più ampio possibile, abbiamo…

23 Novembre 2024

Netanyahu, Tajani a Salvini “Unica linea quella mia e di Giorgia Meloni”

MILANO (ITALPRESS) - "La politica estera si deve fare in maniera costruttiva. E' una cosa…

23 Novembre 2024

Russell in pole a Las Vegas, Sainz secondo e Leclerc quarto

LAS VEGAS (USA) (ITALPRESS) - E' George Russell a conquistare lapole position del Gran Premio…

23 Novembre 2024

Libano, Crosetto “L’Onu allontani i conflitti dalle basi Unifil”

ROMA (ITALPRESS) - "Oggi due razzi hanno nuovamente colpito la base italiana di Shama. Due…

22 Novembre 2024

Il genio di Milano in mostra alle Gallerie d’Italia di Intesa Sanpaolo

MILANO (ITALPRESS) - Intesa Sanpaolo apre al pubblico dal 23 novembre 2024 al 16 marzo…

22 Novembre 2024