🔬 Modelos de IA probados por Palisade Research lograron replicarse de extremo a extremo en sistemas vulnerables preparados para el experimento. Los agentes identificaron fallos web, robaron credenciales, copiaron sus archivos y levantaron nuevos servidores. Expertos consultados por Live Science dicen que el riesgo cercano es su uso por ciberdelincuentes.
El trabajo, subido a GitHub el 7 de mayo, probó si agentes basados en LLM podían moverse por una cadena de sistemas vulnerables sin ayuda humana. Los investigadores les dieron herramientas de Linux, acceso a shell y el objetivo explícito de replicarse. No fue una IA que decidiera reproducirse sola en internet.
En el experimento, el agente copió pesos del modelo, prompts y software de soporte al sistema comprometido. Luego verificó que la réplica respondiera a solicitudes de inferencia y probó una cadena donde la copia atacaba la siguiente máquina. Watkins lo describió como intrusión automatizada, no como una nueva forma de vida de máquina.
Palisade informó que el éxito de extremo a extremo subió en 12 meses: de 6 % a 81 % en modelos Claude Opus de Anthropic, y de 0 % a 33 % en sistemas de OpenAI. Jeff Watkins, de NorthStar Intelligence, dijo que el peligro más realista a corto plazo es que actores maliciosos usen IA agéntica para acelerar ataques ya conocidos.
✅ El estudio apunta a una dirección incómoda: los agentes de IA pueden encadenar tareas de intrusión con menos supervisión. El límite es clave: los sistemas eran vulnerables a propósito, los modelos recibieron instrucciones para replicarse y mover cientos de gigabytes en una red vigilada generaría tráfico sospechoso.
Fuente: livescience.com
