El 3 de septiembre OpenAI lanzó GPT-6 Astra. Y antes de lanzarlo, lo frenaron varias semanas porque su propio equipo lo calificó internamente como riesgo “crítico.”
No lo dijo un periodista alarmista. Lo dijo OpenAI.
Los números son difíciles de ignorar: 98% en los benchmarks de matemática de frontera más difíciles que existen, 99.9% en ARC-AGI-3, y 100% en ExploitBench, que básicamente mide qué tan bien puede hackear sistemas de forma autónoma. Eso último fue lo que los hizo frenar.
La herramienta era tan buena hackeando cosas sola que tuvieron que agregar salvaguardas antes de soltarla al público.
Una empresa que vive de lanzar cosas rápido, frenó su propio lanzamiento para asegurarse de que no fuera un problema.
Eso me pareció interesante.
La semana pasada en Gofest le dije a varias salas que antes de implementar IA en un negocio, lo primero es entender qué estás automatizando. No por miedo. Por criterio. Porque si metes una herramienta sin entender cómo funciona, lo que obtienes no es eficiencia sino caos más rápido.
Si hasta OpenAI para, revisa y agrega controles antes de lanzar su modelo más poderoso, la idea de planificar antes de implementar no es lentitud. Es exactamente lo que hace la gente que sabe lo que está haciendo.
Eso es todo por hoy.
Roberto Romero
PD: GPT-6 también estrena un sistema nuevo para no perder contexto en conversaciones largas. En vez de descartarlo cuando se llena la memoria, lo archiva. Eso sí es un detalle técnico que vale la pena seguir de cerca.
