🔬 Una revisión publicada en Nature examina los riesgos de seguridad de los grandes modelos de lenguaje en salud. El trabajo propone evaluarlos antes de integrarlos de forma amplia en hospitales, porque su uso clínico combina potencial en muchas tareas con vulnerabilidades y nuevas responsabilidades.
Los autores revisan la seguridad de los modelos y su integración con flujos hospitalarios y profesionales sanitarios. También ordenan los peligros según cinco etapas de desarrollo: diseño, datos, modelo, inferencia y entorno.
La revisión describe capas de seguridad que abarcan los objetivos de optimización, la integridad del conocimiento, la alineación y la interacción con personas y sistemas. Además, clasifica amenazas según su relevancia clínica actual y atribuye responsabilidades a las partes implicadas en las medidas de mitigación.
✅ El mensaje central es que la adopción clínica no debería depender solo de que un modelo responda bien: también exige detectar y reducir amenazas a lo largo de todo el sistema. El límite es que este artículo revisa la literatura disponible; no presenta una prueba clínica nueva de que estas medidas reduzcan daños en hospitales.
⚕️ No es consejo médico.
