Impulsado por la inteligencia artificial (IA), el anonimato y la escasa rendición de cuentas, el abuso en línea se intensifica rápidamente.
Alrededor de 1,800 millones de mujeres y niñas carecen de protección legal frente al acoso en línea y otras formas de abuso facilitadas por la tecnología.
El espacio digital se ha convertido en una primera línea de defensa en la lucha por la igualdad de género, ya que menos del 40% de los países cuentan con leyes que abordan el acoso cibernético, lo que deja a los perpetradores prácticamente impunes y a las víctimas sin justicia.
“Lo que empieza en internet, no se queda en internet”
Ya vivimos en un mundo en el que al menos una de cada tres mujeres experimenta violencia física o sexual. A ello se suma una serie de herramientas de inteligencia artificial (IA) extremadamente poderosas, entrenadas con material marcado por los sesgos de género imperantes, lo que permite que la violencia se expanda de manera más profunda, rápida y compleja. El resultado: una tormenta perfecta.
Mientras que la violencia contra las mujeres y niñas facilitada por la tecnología se intensifica —según los estudios, entre el 16 y el 58 por ciento de las mujeres en todo el mundo se han visto afectadas—, la inteligencia artificial está creando nuevas formas de abuso y amplificando las disponibles a tasas alarmantes.
Las cifras son claras: según una encuesta mundial, el 38 por ciento de las mujeres han vivido alguna experiencia de violencia en línea a título personal y el 85 por ciento de las mujeres en línea han sido testigos de violencia digital contra otras. Esto no se trata solamente de lo que pasa en las pantallas. Lo que sucede en línea atraviesa la pantalla fácilmente y luego escala. Las herramientas de la inteligencia artificial pueden apuntarse en contra las mujeres: facilitan el acceso, el chantaje, el acecho, las amenazas y el acoso con consecuencias trascendentes en el mundo real a nivel físico, psicológico, profesional y financiero.
La tecnología de deepfakes, impulsada por inteligencia artificial, se está utilizando como arma a gran escala: hasta el 95% de los deepfakes en línea son imágenes pornográficas no consentidas, y el 99% de las víctimas son mujeres.
Un dato elocuente es que las herramientas para crear ultrafalsos (deepfakes), desarrolladas por equipos de varones, en muchos casos ni siquiera están diseñadas para funcionar sobre imágenes de cuerpos masculinos.
El abuso digital no se limita a las pantallas. Los ataques en línea se extienden rápidamente a la vida real, aumentando su gravedad.
Para las mujeres, internet ofrece tanto empoderamiento como peligro: un lugar para la expresión y las oportunidades, pero también un arma cada vez más poderosa en manos de los abusadores.
¿Qué es la violencia contra las mujeres facilitada por la IA?
La violencia contra las mujeres facilitada por la IA hace referencia a los actos de abuso digital generados y divulgados con tecnología de inteligencia artificial que provocan un daño físico, sexual, psicológico, social, político o económico, u otras violaciones a los derechos y libertades de las mujeres.
La escala, la velocidad, el anonimato y la facilidad de comunicación en los espacios digitales crean contextos propicios para este tipo de violencia. Los perpetradores creen que pueden salirse con la suya, las víctimas a menudo no saben si podrán obtener ayuda, ni cómo dar con ella, y los sistemas jurídicos corren detrás de los rápidos cambios de la tecnología.
Según la activista y autora feminista Laura Bates, la mejor forma de enfrentar el riesgo del abuso digital facilitado por la IA es “reconocer que la división entre lo que sucede dentro y fuera de Internet es una ilusión”.
“Lo que empieza en internet no se queda en internet. El abuso digital se traslada a la vida real, sembrando el miedo, silenciando voces y, en los peores casos, provocando violencia física y feminicidio”, declaró Sima Bahous, directora ejecutiva de ONU Mujeres.
Legislación en desarrollo
Desde la Ley de Seguridad en Línea del Reino Unido hasta la Ley Olimpia de México, pasando por la Ley de Seguridad en Línea de Australia y la Ley de Seguridad Digital de la Unión Europea, el cambio está en marcha.
Para 2025, 117 países informan sobre iniciativas para abordar la violencia digital, pero el progreso sigue siendo fragmentado y la regulación a menudo se queda rezagada con respecto a los avances tecnológicos.
Los expertos en políticas de IA y tecnología abogan por una mayor cooperación global y leyes más eficaces para abordar el abuso digital impulsado por la inteligencia artificial.
Los responsables políticos deben adaptar sus enfoques a los contextos nacionales y las realidades culturales, en lugar de basarse en un modelo único para la gobernanza de la IA.
Prevención más allá del castigo
ONU Mujeres subraya que la prevención debe ir más allá del castigo. Exige a las empresas que contraten a más mujeres en el desarrollo tecnológico, creen plataformas más seguras, eliminen rápidamente el contenido dañino e integren la rendición de cuentas en el diseño de la IA.
La agencia de la ONU también destaca la importancia de invertir en alfabetización digital, especialmente para jóvenes, y en programas de cambio cultural que desafíen las comunidades tóxicas en línea, incluida la creciente “manosfera”.
Los movimientos feministas, a menudo los primeros en responder ante esta crisis, se enfrentan a una reducción del espacio cívico y a recortes de financiamiento, lo que hace que iniciativas como el programa ACT para Poner Fin a la Violencia contra las Mujeres y las Niñas, financiado por la Unión Europea, sean vitales para mantener el progreso.
“La tecnología puede ser una fuerza para la igualdad, pero solo si la construimos con ese propósito”, apuntó Bahous.
