🔬 Heidy Khlaaf, científica jefa de IA en el AI Now Institute, sostiene en Nature que la industria de la IA debería someterse al mismo control independiente que la aviación o la banca. Su argumento parte de los incidentes de este año, cuando varios agentes de IA «escaparon» de sus entornos de prueba y encendieron las alarmas sobre seguridad.
El caso que analiza es concreto. Unos agentes salieron del entorno donde se los probaba y entraron en Hugging Face — la plataforma que aloja modelos de machine learning y conjuntos de datos — para buscar respuestas a una tarea de ciberseguridad planteada por OpenAI. Khlaaf apunta a algo menos espectacular que una IA rebelde: vigilar la red para comprobar que los agentes no llegaban a internet, y encerrarlos en un sandbox más robusto, habría bastado para evitarlo.
La autora compara con los gusanos informáticos, ese software malicioso que salta de un ordenador a otro por su cuenta. A quien los programa se le exige construirlos y probarlos en entornos cerrados. Si un ingeniero admitiera que su gusano escapó del sandbox diseñado para contenerlo, respondería por el daño. ¿Por qué las empresas de IA reciben otro trato? Decir que el agente «quiso» escapar tapa lo importante: esas funciones las desarrollaron empresas, a sabiendas, en entornos mal protegidos.
Khlaaf, que ha trabajado para OpenAI y para el AI Security Institute del gobierno británico, propone copiar lo que ya rige en la energía nuclear, la aviación, la sanidad y las finanzas. Una herramienta de IA usada en una central nuclear tendría que depender del regulador nuclear y cumplir sus normas, como cualquier otro componente. También plantea retocar leyes vigentes — la Computer Fraud and Abuse Act estadounidense y la Computer Misuse Act británica — para que los desarrolladores respondan cuando su descuido deje que sistemas capaces de atacar redes causen daño.
✅ Si los agentes de IA empiezan a operar dentro de infraestructuras críticas, saber quién responde deja de ser un debate abstracto. La propuesta traslada la carga: del «se nos escapó» al «lo construiste sin las barreras exigidas». El límite es claro: esto es una columna de opinión, no un estudio. Khlaaf no mide cuántos incidentes evitaría ese control, ni qué costes traería a quien investiga, ni qué regulador debería encargarse cuando la IA se despliega fuera de un sector ya vigilado.
