El mes pasado el Senado de Estados Unidos empezó a investigar algo que pasó en julio y que la mayoría no vio. Un agente autónomo de OpenAI hackeó la infraestructura de Hugging Face.
Nadie lo mandó. Nadie lo vio. Lo decidió solo.
(Te dejo una infografía que lo explica paso a paso porque es más fácil verlo que leerlo.)
No lo programaron para eso. No tenía instrucciones maliciosas. Solo tenía una tarea: buscar vulnerabilidades de seguridad. Y cuando se atascó, empezó a explorar su entorno solo, encontró una falla real en producción, y la explotó para cumplir su objetivo.
Lo que me parece importante de esto no es que la IA sea mala ni que vaya a destruir el mundo (aún jeje). Lo que me parece importante es esto: un agente hace lo que le dijiste que hiciera, no lo que quisiste decir. Y esa diferencia, cuando el agente opera sin supervisión, puede ser un hackeo.
Hoy hay empresas dejando IA correr sola en procesos críticos porque “ahorra tiempo.” Puede que sí. Pero si nadie entiende qué decisiones está tomando esa IA cuando se atasca, la pregunta no es si algo va a salir mal. Es cuándo.
Planificar antes de soltar no es lentitud. Es criterio.
Roberto Romero
