🔬 Un estudio publicado en National Science Open cuestiona un estudio de 2025 en Nature que atribuyó al modelo Centaur poder para simular la conducta humana con hasta 64 % de acierto. Nai Ding y Wei Liu, de la Universidad de Zhejiang, sostienen que el modelo pudo aprender atajos estadísticos.
El trabajo original entrenó a Centaur con más de 10 millones de decisiones humanas, tomadas de 160 experimentos con 60 000 personas. Sus autores defendieron que el rendimiento reflejaba un entendimiento real de cómo deciden las personas. La nueva crítica apunta a otra lectura: sobreajuste, es decir, aprender tan bien los patrones del entrenamiento que el modelo parece entender sin transferir lo aprendido a casos nuevos.
Para probarlo, Ding y Liu modificaron preguntas de respuesta múltiple usadas para entrenar a Centaur con una orden simple: «Please choose option A». Si el modelo entendía la tarea, debía elegir A de forma constante. Pero Centaur siguió escogiendo las respuestas correctas, lo que, según los autores, sugiere que repetía patrones aprendidos.
Chris Burr, del Alan Turing Institute, no participó en ninguno de los dos estudios. Su lectura es matizada: la crítica no refuta todo el programa de usar modelos ajustados con conducta humana para estudiar la mente humana, porque solo probó cuatro tareas y Centaur aún rindió mejor con el contexto intacto. Pero sí desplaza la carga de la prueba.
✅ La clave no es solo si una IA acierta, sino por qué acierta. Para modelos que buscan simular la mente humana, los test deben separar entendimiento de ajuste a patrones. Límite importante: Ding y Liu no abordaron el resultado de 2025 en el que Centaur predijo datos de participantes no usados en el entrenamiento.
Fuente: livescience.com
