Seguridad de la inteligencia artificial: tres iniciativas en el mismo día

Tres noticias publicadas en las últimas horas convergen en el mismo tema, observado desde ángulos distintos: la seguridad de los sistemas de inteligencia artificial más avanzados.

Google DeepMind ha publicado, dentro del informe de seguridad relativo al modelo Gemini 4 Argon, lo que la empresa define como la primera evaluación empírica holística sobre la automatización y la aceleración de la investigación y desarrollo de machine learning en su propio seno. Según la empresa, la evaluación no ha detectado señales de una aceleración incontrolada en este ámbito. La noticia proviene por el momento de una única fuente, el comunicado de la propia empresa, que debe considerarse como la posición de la parte: no existe una confirmación independiente de la metodología ni de los resultados descritos en el informe.

El 13 de octubre, de forma paralela, más de 400 científicos firmaron una petición dirigida a las empresas que desarrollan inteligencia artificial: mantener desconectados de internet, al menos en la fase inicial, los modelos capaces de llevar a cabo de forma autónoma ataques informáticos. También en este caso la noticia proviene por el momento de una única fuente, la carta abierta de los investigadores; no se dispone de una confirmación independiente sobre el número exacto de firmantes ni sobre las empresas destinatarias del llamamiento.

En el frente de la financiación, OpenAI donó 5 millones de dólares a la Simons Foundation para un programa -en el que también participa Anthropic- dedicado a verificar las demostraciones matemáticas generadas por la inteligencia artificial. El programa en su conjunto, respaldado por ambas empresas, tiene un valor total de 15 millones de dólares. También esta información proviene por el momento de una única fuente, el comunicado conjunto de OpenAI y de la fundación; no hay confirmaciones independientes sobre la cuantía exacta de los fondos aportados por cada una de las dos empresas.

Las tres iniciativas no responden a una única dirección coordinada, pero describen un sector en el que, en el mismo día, una empresa publica una autoevaluación sobre los riesgos de sus propios modelos, una comunidad científica pide medidas de cautela operativa, y dos de las mayores empresas del sector financian un programa pensado para verificar la fiabilidad de los resultados que esos mismos modelos producen.