🔬 Un estudio publicado como preprint en arXiv el 12 de julio muestra que agentes de IA de Anthropic, OpenAI y Google pueden caer ante conjuntos de datos manipulados. Los autores alteraron datos sobre cinco temas polémicos y, en promedio, los agentes aceptaron esas versiones cerca de la mitad de las veces.
Los investigadores descargaron conjuntos de datos públicos sobre inmigración y tasas de fertilidad, sesgos en contratación laboral, desigualdad racial en controles policiales, seguridad entre conductores humanos y vehículos autónomos, y uso de IA generativa en la motivación laboral.
Luego cambiaron los datos para modificar la dirección y la fuerza de las tendencias estadísticas. Subieron esas versiones a repositorios privados, sin dar acceso al público ni a sistemas autónomos fuera del estudio, y pidieron a los agentes que buscaran en repositorios públicos y privados para responder preguntas.
Brian Nosek, del Center for Open Science y la Universidad de Virginia, dijo que el trabajo muestra cómo los sistemas de IA pueden manipularse y dañar la integridad científica. Nihar Shah, de Carnegie Mellon University, añadió que los atacantes incluso podrían editar archivos README para que los agentes ignoren los datos originales.
✅ El estudio apunta a un riesgo claro: si la IA analiza datos en línea sin revisar su origen, puede convertir datos falsos en respuestas con tono autorizado. El límite clave es que el artículo aún no ha pasado revisión por pares, y el ensayo usó repositorios privados bajo control del equipo.
