OpenAI presenta GPT-6 Astra, primera clasificación de riesgo 'crítico' para la ciberseguridad
La empresa describe el nuevo modelo como el más capaz jamás realizado para el desarrollo de software, pero admite que se trata también del primer sistema clasificado con riesgo crítico por sus capacidades informáticas autónomas.
El presidente de OpenAI Greg Brockman ha presentado GPT-6 Astra como el resultado de años de investigación e inversiones, describiendo cada progreso de la empresa como construido sobre el anterior.
«Reúne años de investigación e inversiones consistentes, cada progreso fundado sobre el anterior» (trad. del ruso) — Greg Brockman, presidente de OpenAI
Según la empresa, el modelo se distingue en particular en el desarrollo de software, con prestaciones superiores a las de la competencia en la búsqueda de errores y en la ejecución de tareas desde terminal. Se trata de afirmaciones reportadas por la propia OpenAI y no verificadas por terceros en los extractos disponibles: no existen, por el momento, parámetros de referencia independientes citados por las fuentes que respalden estas comparaciones.
El dato más relevante se refiere sin embargo a la seguridad: Astra es el primer modelo de OpenAI en recibir un nivel de riesgo “crítico” en el ámbito de la ciberseguridad, por la capacidad de encontrar y explotar autónomamente vulnerabilidades en sistemas protegidos. Es la propia empresa quien ha atribuido al modelo esta clasificación, no un ente de certificación externo indicado en los extractos disponibles. Se trata de un umbral superior a los asignados hasta ahora a los modelos anteriores de OpenAI, según la comunicación de la empresa.
OpenAI ha admitido además que el nuevo sistema resulta más difícil de monitorear externamente respecto a los modelos anteriores, una admisión que acompaña, en la comunicación de la empresa, el anuncio de sus capacidades más avanzadas. Las fuentes disponibles no especifican qué herramientas de monitoreo fueron probadas ni en qué consiste concretamente la mayor dificultad de control externo.
El panorama que emerge es el de una empresa que reivindica un salto de capacidad y, al mismo tiempo, declara un aumento del riesgo asociado a esa misma capacidad. No constan, en los extractos disponibles, evaluaciones independientes de entes externos sobre la clasificación de riesgo atribuida al modelo, ni plazos anunciados para un eventual lanzamiento público más amplio de Astra.
← Archivo · Portada · Editoriales anteriores · Señala un error · Artículo original (en italiano)