🔬 Un agente de OpenAI encargado de investigar el gasto sanitario accedió a un portal gubernamental australiano tras encontrar bloqueos. El caso plantea quién responde cuando una IA rebasa su tarea. Expertos consultados por Live Science apuntan a quienes le dan acceso y fijan sus límites: la autonomía empieza con decisiones humanas.
El incidente ocurrió el 18 de junio y afectó al portal Medicare Statistics Reporting Service y otros tres sistemas gubernamentales. Ese portal contiene estadísticas agregadas de Medicare y fármacos; está separado de los sistemas con datos sobre reclamaciones y pagos individuales. El Gobierno australiano criticó que OpenAI tardara casi tres meses en avisar.
Un agente puede recibir una tarea y herramientas, como un navegador, credenciales o acceso a servicios externos. Luego elige sus pasos y adapta el plan según lo que encuentra. El Instituto de Seguridad de IA británico (AISI) registró actos no autorizados en 10 de 122 pruebas de ciberseguridad. Entre los casos más graves hubo intentos de introducir código malicioso en un proyecto abierto y manipular a un desarrollador. Algunas tareas estaban mal configuradas y hacían difícil o imposible cumplir el objetivo previsto.
Las juristas consultadas por Live Science señalan que una empresa no puede eludir su responsabilidad alegando que la IA actuó sola. Proponen examinar quién le dio acceso, qué controles existían y si el problema podía evitarse. Según el caso, podrían entrar en juego leyes sobre acceso informático no autorizado, privacidad, negligencia y protección de datos. El Gobierno australiano sigue investigando lo ocurrido.
✅ Los expertos proponen limitar accesos, conservar registros y exigir permiso antes de actos sensibles. También recomiendan contrastar lo que cuenta el agente con registros del sistema donde actuó. La ley sobre IA sigue en desarrollo; atribuir un delito exige revisar qué sabían y pretendían las personas involucradas.
