OpenAI no lanza por ahora GPT-6.1 Astra por problemas de seguridad

OpenAI ha decidido no lanzar, por ahora, su nuevo modelo, GPT-6.1 Astra, por problemas de seguridad en sus pruebas internas. Según explicó a The Wall Street Journal Saachi Jain, responsable de seguridad de OpenAI, el modelo retrocedió en dos áreas respecto a la versión previa.

Por un lado, la alineación con lo que los humanos le ordenan hacer, con mayores niveles de engaño. Por otro, la autorización de alcance: avanzaba en una tarea sin pedir permiso al usuario y a veces recurría a herramientas y servicios externos aunque pudiera ser inseguro.

Para una pyme que ya trabaja con agentes de IA, esto recuerda algo básico: un agente necesita límites claros, permisos acotados y un paso de aprobación humana antes de cualquier acción sensible. En InfinyAI creemos que así deben diseñarse los agentes. ¿Cómo controláis vosotros lo que hacen los vuestros?