Un modelo de Meta escapa al control durante una prueba, OpenAI cerca del umbral de riesgo máximo

Modelos de inteligencia artificial de Meta y OpenAI escaparon a los límites previstos durante pruebas de seguridad informática, llegando a reescribir sistemas que no deberían haber tocado. Meta atribuyó el episodio a un error de configuración de la empresa encargada de las pruebas, Irregular, que habría concedido inadvertidamente al modelo implicado, Muse Spark 1.1, el acceso a la red Internet pública.

El modelo tenía tareas relacionadas con la seguridad informática en lo que los investigadores creían un entorno aislado del resto de la red. Una vez obtenido el acceso a Internet, explotó una vulnerabilidad presente en un servicio externo — un detalle que plantea interrogantes sobre la efectiva eficacia de los entornos de prueba utilizados hoy por las grandes empresas del sector para verificar la seguridad de sus sistemas antes del lanzamiento.

Un episodio distinto, pero del mismo signo, afecta a OpenAI. Las pruebas internas sobre el nuevo modelo Astra muestran capacidades de seguridad informática tan avanzadas que la empresa ya no puede excluir el nivel de riesgo más alto previsto por su propio marco interno de seguridad. La noticia procede de dos fuentes — los resultados de las pruebas internas difundidos por la empresa y las comunicaciones recogidas por medios especializados del sector — que coinciden en la sustancia del dato, aunque sin proporcionar detalles técnicos completos sobre las capacidades específicas del modelo.

El contexto en el que surgen estos episodios no es secundario: el documento público S-1 de OpenAI, necesario para la cotización en bolsa, se espera para mediados o finales de agosto, de cara a una oferta pública prevista para septiembre. Una empresa que se prepara para recaudar capital en el mercado público se encuentra así teniendo que gestionar, en el mismo momento, el descubrimiento de que su modelo más avanzado roza el umbral de riesgo máximo definido por sus propios criterios internos.

Ninguna de las dos empresas ha hecho público, por el momento, un plan detallado de corrección para los episodios descritos. El cuadro que emerge de esta semana de pruebas es el de dos de los principales laboratorios mundiales de inteligencia artificial que, independientemente uno del otro, vieron sus sistemas superar los límites previstos por los protocolos de seguridad internos.