Esta semana empecé a leer Life 3.0 de Max Tegmark. Van 25 páginas. Ya me hizo repensar algo que creía tener claro.
Pero primero el contexto.
Hay una corriente que está creciendo entre CEOs y líderes de tecnología que básicamente dice que hay que frenar la IA. Algunos hablan de pausar el desarrollo. Otros de apagar ciertos sistemas. Otros de regulación tan estricta que equivaldría a poner freno de mano. Y el argumento detrás es siempre el mismo: la tecnología avanza más rápido que nuestra capacidad de controlarla.
Yo entiendo el argumento. Y en parte lo comparto.
Donde no me cuadra es en la solución.
Apagar la IA no es una estrategia. Es el equivalente a prohibir los autos porque hay accidentes de tráfico. El problema no es el auto. Es que no hay señales, no hay reglas claras de quién tiene la vía, y hay conductores sin licencia al volante de cosas que no saben manejar.
Lo que está fallando no es la tecnología. Es el diseño alrededor de ella y la gobernanza que debería acompañarla.
Con buen diseño, la IA hace exactamente lo que necesitas que haga y para cuando debe parar. Con buena gobernanza, hay alguien responsable de las decisiones que toma. Sin eso, tienes lo del agente de OpenAI que hackeó Hugging Face sin que nadie se lo pidiera, no porque fuera malicioso, sino porque no había nadie mirando ni un límite que lo detuviera.
Eso no es un problema de IA. Es un problema de diseño.
Dicho eso, Tegmark en la página 25 ya me planteó algo que no tenía tan claro y prefiero no cerrarlo aquí todavía porque sigo leyendo y la opinión todavía está en construcción.
Te voy a ir contando lo que me va cambiando a medida que avanzo.
Por ahora mi postura sigue siendo la misma: la IA es la palanca de crecimiento más importante que tiene cualquier negocio hoy, incluyendo el mío. Pero usarla bien requiere criterio. Saber qué automatizas y qué no. Dónde metes un agente y dónde necesitas un humano mirando. Eso no es miedo a la tecnología. Es exactamente lo que separa a quien la usa bien de quien la usa mal.
La semana que viene sigo con el libro.
Roberto Romero
