🔬 Londres, en especial King’s Cross, se está perfilando como un polo clave de seguridad de IA fuera de Estados Unidos. Nature describe cómo el AI Security Institute del Reino Unido evaluó Mythos, un modelo de Anthropic, y ayudó a aclarar rumores sobre sus capacidades de hacking y riesgos de ciberseguridad.
El enfoque británico no busca competir con Estados Unidos y China por crear modelos cada vez más grandes. El Reino Unido intenta abrirse un nicho en entender riesgos de modelos emergentes. AISI, con apoyo del gobierno y sede en Londres, revisa modelos frontera que las empresas entregan de forma voluntaria.
Ese ecosistema incluye a Apollo Research, GovAI, University College London, el Alan Turing Institute y la Universidad de Oxford. También pesa la historia local de DeepMind, fundada en Londres en 2010 y comprada por Google en 2014. Anthropic y OpenAI, ambas con sede central en San Francisco, ya abrieron oficinas importantes en la ciudad.
AISI nació en 2023, durante la primera cumbre global de seguridad de IA en Bletchley Park, impulsada por el entonces primer ministro Rishi Sunak. Evalúa si los modelos actúan como se espera, si pueden persuadir al público o si tienen capacidades ligadas a armas biológicas. Sus equipos intentan romper las salvaguardas para que las empresas las mejoren.
✅ Londres muestra que la carrera de la IA no solo va de construir modelos más potentes: también va de probarlos, entenderlos y gobernar sus riesgos. El límite es claro: AISI no sustituye a un regulador, y algunos investigadores temen que «seguridad de IA» se reduzca demasiado a controlar modelos y ataques, dejando menos espacio para transparencia e impactos sociales amplios.
