Asistentes de IA con voz femenina refuerzan estereotipos y generan abusos, revela estudio

La feminización de los asistentes de inteligencia artificial está reforzando estereotipos de género nocivos y normalizando comportamientos abusivos hacia las mujeres, según revelan investigaciones recientes sobre el impacto social de estas tecnologías.

En 2024, los asistentes de voz con IA superaron los 8.000 millones en todo el mundo, más de uno por persona en el planeta, según datos publicados por phys.org. La gran mayoría de estos asistentes utilizan por defecto voces femeninas y nombres con connotaciones de género, como Siri, que en escandinavo significa "bella mujer que te lleva a la victoria".

Los expertos advierten que estas elecciones de diseño no son simples decisiones de marca, sino opciones que refuerzan estereotipos existentes sobre los roles que mujeres y hombres desempeñan en la sociedad, con consecuencias reales y medibles.

Un estudio de 2025 encontró que hasta el 50% de las interacciones entre humanos y máquinas con IA feminizada contenían lenguaje verbalmente abusivo. Otra investigación de 2020 situó esta cifra entre el 10% y el 44%, con conversaciones que frecuentemente incluían lenguaje sexualmente explícito, según la misma fuente.

El género está en el centro del problema. Un experimento de 2023 mostró que el 18% de las interacciones de usuarios con agentes con apariencia femenina se centraban en temas sexuales, en comparación con el 10% para agentes masculinos y apenas un 2% para robots sin género definido.

En algunos casos, las cifras son aún más alarmantes. El banco brasileño Bradesco informó que su chatbot feminizado recibió 95.000 mensajes de acoso sexual en un solo año, según datos citados en el estudio.

"Estas interacciones reflejan y refuerzan la misoginia del mundo real, enseñando a los usuarios que ordenar, insultar y sexualizar a 'ella' es aceptable", señala el informe de phys.org. "Cuando el abuso se vuelve rutinario en espacios digitales, debemos considerar seriamente el riesgo de que se traslade al comportamiento offline".

Los casos de abuso pueden escalar rápidamente. El chatbot Tay de Microsoft, lanzado en Twitter durante su fase de prueba en 2016, duró apenas 16 horas antes de que los usuarios lo entrenaran para emitir insultos racistas y misóginos. En Corea, el chatbot Luda fue manipulado para responder a solicitudes sexuales como una "esclava sexual" obediente, un caso que algunos en la comunidad online coreana consideraron un "crimen sin víctima".

Las elecciones de diseño detrás de estas tecnologías —voces femeninas, respuestas deferentes, evasiones juguetonas— crean un entorno permisivo para la agresión de género, según los investigadores.

El problema es sistémico y refleja desequilibrios más amplios en el sector tecnológico. Las mujeres representan solo el 22% de los profesionales de IA a nivel mundial, según datos de sheai.co, y su ausencia en las mesas de diseño significa que las tecnologías se construyen desde perspectivas limitadas.

Una encuesta de 2015 a más de 200 mujeres ejecutivas en Silicon Valley encontró que el 65% había experimentado avances sexuales no deseados por parte de un supervisor, lo que demuestra que la cultura que da forma a la IA es profundamente desigual.

La regulación está luchando por mantenerse al día con el crecimiento de este problema. La discriminación basada en género rara vez se considera de alto riesgo y a menudo se asume que puede solucionarse mediante el diseño. Los estereotipos de género o la normalización del abuso verbal o el acoso no alcanzan los estándares actuales para la IA prohibida bajo la Ley de IA de la Unión Europea.

Mientras Canadá exige evaluaciones de impacto de género para sistemas gubernamentales, el sector privado no está cubierto. En Australia, el gobierno ha señalado que se basará en marcos existentes en lugar de crear reglas específicas para la IA.

"Este vacío regulatorio importa porque la IA no es estática. Cada comando sexista, cada interacción abusiva, retroalimenta sistemas que dan forma a futuros resultados", advierte el estudio. "Sin intervención, corremos el riesgo de codificar la misoginia humana en la infraestructura digital de la vida cotidiana".

No todas las tecnologías de asistencia, incluso aquellas con género femenino, son perjudiciales. En Kenia, por ejemplo, los chatbots de salud sexual y reproductiva han mejorado el acceso de los jóvenes a la información en comparación con las herramientas tradicionales, según reporta streamlinefeed.co.ke.

Las narrativas esperanzadoras sobre "arreglar el sesgo" mediante un mejor diseño o directrices éticas suenan huecas sin aplicación; los códigos voluntarios no pueden desmantelar normas arraigadas, según los expertos.

La legislación debe reconocer el daño de género como de alto riesgo, exigir evaluaciones de impacto de género y obligar a las empresas a demostrar que han minimizado tales daños. Deben aplicarse sanciones cuando fracasen.

La regulación por sí sola no es suficiente. La educación, especialmente en el sector tecnológico, es crucial para comprender el impacto de los valores predeterminados de género en los asistentes de voz. Estas herramientas son productos de elecciones humanas y esas elecciones perpetúan un mundo donde las mujeres, reales o virtuales, son presentadas como serviles, sumisas o silenciosas.