Google DeepMind, azienda di IA controllata da Alphabet, ha dato vita a una nuova divisione chiamata AI Safety and Alignment. Si occuperà della sicurezza dell’Artificial General Intelligence (AGI).
L’AGI è un sistema di Intelligenza Artificiale autonoma e capace di svolgere (potenzialmente) qualsiasi attività umana.
La squadra del AI Safety and Alignment è formata da team esistenti di ingegneri e ricercatori e nuovi gruppi specializzati in sicurezza dell’AGI e dovrà occuparsi di sviluppo responsabile dell’IA e di gestione dei rischi.
L’équipe non si dedicherà solo alla sicurezza in ambito AGI. Infatti, la nuova divisione sta sperimentando nuove misure di sicurezza per il modello Gemini di Google, recentemente sospeso per la produzione di immagini errate.
Per quanto riguarda i sistemi di controllo già in uso e i nuovi in lavorazione, l’AI Safety and Alignment pone degli obiettivi a breve termine: proteggere i minori, evitare consigli medici errati e prevenire la diffusione di pregiudizi, ingiustizie e discriminazioni.
Il team sarà guidato da Anca Dragan, ricercatrice per Waymo (ex progetto Google per la produzione di driverless car) e professoressa della UC Berkeley. L’esperta ha sottolineato, in un’intervista al giornale tecnologico TechCrunch, che il team vuole far raggiungere alle IA di Google un certo livello di resistenza agli attacchi informatici, vuole sensibilizzarle ai valori umani, fare loro rispettare le diversità e la dinamicità cognitiva umana.
Articolo di T.S.
MALAGA (SPAGNA) (ITALPRESS) - L'Italtennis si qualifica per l'ultimo atto delle Davis Cup Finals. Nella…
ROMA (ITALPRESS) - "Il processo costituente è stato assolutamente partecipato, il più ampio possibile, abbiamo…
MILANO (ITALPRESS) - "La politica estera si deve fare in maniera costruttiva. E' una cosa…
LAS VEGAS (USA) (ITALPRESS) - E' George Russell a conquistare lapole position del Gran Premio…
ROMA (ITALPRESS) - "Oggi due razzi hanno nuovamente colpito la base italiana di Shama. Due…
MILANO (ITALPRESS) - Intesa Sanpaolo apre al pubblico dal 23 novembre 2024 al 16 marzo…