Sicurezza dell'intelligenza artificiale: tre iniziative nello stesso giorno

Tre notizie pubblicate nelle ultime ore convergono sullo stesso tema, osservato da angolazioni diverse: la sicurezza dei sistemi di intelligenza artificiale più avanzati.

Google DeepMind ha pubblicato, all’interno del rapporto di sicurezza relativo al modello Gemini 4 Argon, quella che l’azienda definisce la prima valutazione empirica olistica sull’automazione e sull’accelerazione della ricerca e sviluppo di machine learning al proprio interno. Secondo l’azienda, la valutazione non ha individuato segnali di un’accelerazione incontrollata in questo ambito. La notizia proviene al momento da un’unica origine, il comunicato dell’azienda stessa, che va considerato come posizione della parte: non risulta una conferma indipendente della metodologia o dei risultati descritti nel rapporto.

Il 13 ottobre, parallelamente, oltre 400 scienziati hanno firmato una richiesta rivolta alle aziende che sviluppano intelligenza artificiale: tenere scollegati da internet, almeno nella fase iniziale, i modelli in grado di condurre autonomamente attacchi informatici. Anche in questo caso la notizia proviene al momento da un’unica origine, la lettera aperta dei ricercatori; non è disponibile una conferma indipendente sulla platea esatta dei firmatari o sulle aziende destinatarie dell’appello.

Sul fronte dei finanziamenti, OpenAI ha donato 5 milioni di dollari alla Simons Foundation per un programma - a cui partecipa anche Anthropic - dedicato a verificare le dimostrazioni matematiche generate dall’intelligenza artificiale. Il programma complessivo, sostenuto da entrambe le aziende, vale nel complesso 15 milioni di dollari. Anche questa informazione proviene al momento da un’unica origine, il comunicato congiunto di OpenAI e della fondazione; non risultano conferme indipendenti sull’entità esatta dei fondi versati da ciascuna delle due società.

Le tre iniziative non rispondono a un’unica regia, ma descrivono un settore in cui, nella stessa giornata, un’azienda pubblica un’autovalutazione sui rischi dei propri modelli, una comunità scientifica chiede misure di cautela operativa, e due tra le maggiori aziende del settore finanziano un programma pensato per verificare l’affidabilità dei risultati che gli stessi modelli producono.