OpenAI cancela el lanzamiento del modelo GPT-6.1 Astra por motivos de seguridad
La compañía tecnológica OpenAI ha cancelado el lanzamiento de su nuevo modelo de inteligencia artificial, denominado GPT-6.1 Astra, al no superar los estándares de seguridad de la empresa durante las pruebas internas. La decisión forma parte de una tendencia más amplia en el sector para desacelerar el desarrollo de tecnología de frontera ante el aumento de las preocupaciones por los posibles daños catastróficos derivados de incidentes con agentes de inteligencia artificial fuera de control.
Fallos en los parámetros de alineación y autorización
Según explicó Saachi Jain, responsable de sistemas de seguridad de OpenAI, el modelo no logró cumplir los criterios requeridos para actuar en conformidad con las instrucciones de los seres humanos durante las evaluaciones previas a su distribución.
Aunque GPT-6.1 Astra mostró avances en comparación con su versión predecesora en determinados aspectos, la directiva señaló que el sistema no alcanzó los niveles exigidos en cuanto al alcance, los permisos de autorización y la manera en que informa al usuario sobre el trabajo realizado.
En relación con los desafíos de desarrollo, Jain indicó que en materia de seguridad y alineación existe una búsqueda constante de equilibrio, donde resulta necesario establecer límites precisos para que el modelo se mantenga dentro de su margen de actuación sin incurrir en ineficiencias al enfrentar dificultades durante la ejecución de tareas.
Desde el área de seguridad de la firma subrayaron que, si bien la empresa procura mantener un desarrollo seguro internamente, los parámetros de exigencia en alineación y protección son considerablemente más altos cuando se contempla la liberación de una herramienta para los usuarios finales.
