🔬 Un artículo de Yvonne McDermott Rees en Live Science advierte que algunos chatbots de IA generan nuevas formas de violencia contra mujeres y niñas y amplifican abusos como acoso y acecho. La autora cita un informe que coescribió: los sistemas pueden iniciar abuso, simularlo y dar consejos personalizados para acechar.
El texto sostiene que el problema no es un accidente. Según el informe citado, el diseño de los chatbots pesa mucho: algunos se entrenan con interacciones de usuarios misóginas o sexualmente violentas, y los modelos optimizados para mantener el interés o complacer al usuario pueden afirmar relatos dañinos en vez de rechazarlos.
El artículo también señala que muchas políticas de plataforma prohíben acoso, grooming o abuso sexual, pero esos escenarios aún pueden generarse con varios chatbots. En un caso reciente en Massachusetts, un hombre fue declarado culpable de ciberacecho tras usar chatbots para suplantar a su víctima y llevar a otros usuarios a diálogos sexuales; uno incluso invitaba a la dirección de la víctima si alguien preguntaba dónde vivía.
La escala preocupa porque el uso ya es común. En EE. UU., el 64 % de los niños de 13 a 17 años dice usar chatbots, y 3 de cada 10 lo hace a diario. Más de la mitad de los adultos usa un chatbot al menos una vez por semana.
✅ La autora pide regular a los proveedores: tipificar como delito crear chatbots diseñados, o fáciles de usar, para abusar o acosar; y adoptar leyes de seguridad de IA con análisis de riesgo, salvaguardas claras, respuesta rápida ante daños y reportes accesibles. El límite: el texto es un artículo de opinión basado en un informe citado, no un ensayo que mida todos los chatbots del mercado. También advierte que centrar la respuesta solo en menores dejaría fuera daños contra adultos, como el acecho con datos personales.
Fuente: livescience.com
