Nadella pide un freno de emergencia para la inteligencia artificial avanzada

El CEO de Microsoft Satya Nadella ha declarado que los modelos de inteligencia artificial avanzada necesitan un mecanismo de parada de emergencia. Lo informa Business Standard, citando las declaraciones del propio Nadella.

Esta noticia proviene por el momento de una única fuente; no hay confirmación independiente disponible al momento de la publicación sobre el contexto exacto en el que se hizo la declaración ni sobre eventuales detalles técnicos del mecanismo propuesto por Nadella.

La declaración llega tras la divulgación de una violación de seguridad por parte de Anthropic, un episodio que ha reavivado el debate público sobre la seguridad de los sistemas de inteligencia artificial más avanzados. Un grupo denominado Super Intelligence Force ha pedido a las empresas del sector que hagan públicos con rapidez los incidentes que afectan a sus propios modelos.

“Companies must immediately disclose incidents involving their models” se lee en la declaración del grupo, recogida por Business Standard.

Las fuentes disponibles no especifican la naturaleza exacta de la violación sufrida por Anthropic, ni si la empresa ya ha adoptado medidas correctivas al momento de la publicación de esta noticia. Sigue siendo un hecho, en todo caso, que dos sujetos distintos del sector —el CEO de la principal empresa que invierte en inteligencia artificial y un grupo de expertos independiente— hayan pedido de manera convergente, en el mismo contexto, instrumentos de control más rápidos y más transparentes sobre los modelos avanzados.

El nudo abierto por estas declaraciones concierne a la velocidad con la que las empresas comunican los incidentes de seguridad una vez descubiertos, más que a la existencia misma de mecanismos de control internos. Es en este punto —la rapidez de la divulgación, no su existencia en términos absolutos— en el que se concentra la petición del grupo Super Intelligence Force recogida por Business Standard.

Queda por ver si las dos peticiones —la de Nadella sobre una parada de emergencia técnica y la del grupo de expertos sobre una divulgación inmediata— tendrán un seguimiento concreto por parte de las empresas del sector, o si quedarán como declaraciones aisladas sin un mecanismo compartido. Por el momento, ninguna de las fuentes disponibles indica plazos o modalidades para la adopción práctica de uno de los dos instrumentos solicitados.