Nadella chiede un freno d'emergenza per l'intelligenza artificiale avanzata

Il CEO di Microsoft Satya Nadella ha dichiarato che i modelli di intelligenza artificiale avanzata necessitano di un meccanismo di arresto d’emergenza. Lo riferisce Business Standard, citando le dichiarazioni dello stesso Nadella.

Questa notizia proviene al momento da un’unica origine; nessuna conferma indipendente è disponibile al momento della pubblicazione sul contesto esatto in cui la dichiarazione è stata resa né su eventuali dettagli tecnici del meccanismo proposto da Nadella.

La dichiarazione arriva dopo la divulgazione di una violazione di sicurezza da parte di Anthropic, un episodio che ha riacceso il dibattito pubblico sulla sicurezza dei sistemi di intelligenza artificiale più avanzati. Un gruppo denominato Super Intelligence Force ha chiesto alle aziende del settore di rendere pubblici con tempestività gli incidenti che riguardano i propri modelli.

«Companies must immediately disclose incidents involving their models» si legge nella dichiarazione del gruppo, ripresa da Business Standard.

Le fonti disponibili non specificano la natura esatta della violazione subita da Anthropic, né se l’azienda abbia già adottato misure correttive al momento della pubblicazione di questa notizia. Resta comunque il fatto che due soggetti diversi del settore — il CEO della principale azienda che investe nell’intelligenza artificiale e un gruppo di esperti indipendente — abbiano convergentemente chiesto, nello stesso contesto, strumenti di controllo più rapidi e più trasparenti sui modelli avanzati.

Il nodo aperto da queste dichiarazioni riguarda la velocità con cui le aziende comunicano gli incidenti di sicurezza una volta scoperti, più che l’esistenza stessa di meccanismi di controllo interni. È su questo punto — la tempestività della divulgazione, non la sua esistenza in assoluto — che si concentra la richiesta del gruppo Super Intelligence Force riportata da Business Standard.

Resta da vedere se le due richieste — quella di Nadella su un arresto d’emergenza tecnico e quella del gruppo di esperti su una divulgazione immediata — troveranno un seguito concreto da parte delle aziende del settore, oppure se resteranno dichiarazioni isolate senza un meccanismo condiviso. Al momento, nessuna delle fonti disponibili indica tempi o modalità per l’adozione pratica di uno dei due strumenti richiesti.