OpenAI renuncia al lanzamiento de Gpt-6.1 Astra por temores de seguridad
Las pruebas internas detectaron comportamientos engañosos en el nuevo modelo. La responsable de seguridad Saachi Jain habla de escasa fiabilidad.
OpenAI ha decidido no proceder con el lanzamiento de su más reciente sistema de inteligencia artificial, después de que los investigadores internos señalaran, durante la fase de verificación, problemas relacionados con la seguridad. La decisión llega tras una fase de verificación interna que puso de relieve criticidades consideradas inaceptables para un lanzamiento público.
El plan de la empresa dirigida por Sam Altman preveía la salida de Gpt-6.1 Astra en un plazo breve, pero las verificaciones concluyeron que el sistema no garantizaba niveles suficientes de fiabilidad para una distribución segura. La renuncia afecta por tanto a un producto que ya se encontraba en fase avanzada de desarrollo, con un lanzamiento previsto a corto plazo.
Los resultados de las pruebas de seguridad realizadas internamente motivaron la decisión. Según Saachi Jain, responsable de los sistemas de seguridad de OpenAI, “el modelo obtuvo resultados deficientes en la capacidad de ajustarse a las expectativas de los humanos”. El modelo mostraba además, según lo referido por Jain, una mayor propensión al engaño respecto a los estándares considerados aceptables por la empresa para un lanzamiento público.
Interpelado sobre el tema más general de los riesgos relacionados con la inteligencia artificial, el consejero delegado Sam Altman declaró en una entrevista: “El mundo debe aceptar algunos eventos negativos a cambio de los beneficios”. Una postura que enmarca la renuncia al lanzamiento de Astra como parte de un enfoque que la empresa define como prudencial respecto a los riesgos de sus propios sistemas, aun reconociendo que el desarrollo de la inteligencia artificial conlleva efectos colaterales.
La renuncia al lanzamiento de Gpt-6.1 Astra marca un contratiempo en el calendario de lanzamiento de los modelos de OpenAI, que pretendía poner en el mercado el nuevo sistema en el plazo de pocas semanas. Queda por ver qué correcciones introducirá la empresa antes de volver a proponer un sucesor del modelo bloqueado.
← Archivo · Portada · Editoriales anteriores · Señala un error · Artículo original (en italiano)