La IA plantea nuevos riesgos de ciberviolencia contra las mujeres
La tecnología 'deep-fake', que suplanta la voz, la cara, el cuerpo o las acciones de una persona, tiene a las mujeres como principal objetivo
La IA, un arma de doble filo
Imagen: AFP
La Inteligencia Artificial (IA) plantea nuevos riesgos en términos de ciberviolencia contra las mujeres y abre posibilidades ‘radicalmente nuevas’ en términos de facilidad, rapidez, anonimato y amplia difusión, según el informe ‘Ciberviolencia contra las mujeres en la UE’ del Servicio de Estudios del Parlamento Europeo.
La tecnología ‘deep-fake’, que suplanta la voz, la cara, el cuerpo o las acciones de una persona, tiene a las mujeres como principal objetivo y ha dado lugar a medidas legislativas para detenerla e impedirla.
En el marco de la tecnología ‘deep-fake’, la mujer es la principal víctima de la ‘nudificación’ que es la creación de imágenes de personas desnudas sin su consentimiento. De hecho, más del 902 de todos los vídeos de ‘deep-fake’ en línea son de naturaleza pornográfica y sus víctimas son casi exclusivamente mujeres, a menudo personalidades de la cultura, los medios de comunicación y la política.
El informe advierte de que la IA también plantea riesgos en términos de llevar el abuso a «dimensiones completamente nuevas en cuanto a velocidad, facilidad, cantidad y amplia difusión» y alerta de que puede generar automáticamente abusos en línea, como mensajes de acoso.
Además, permite realizar mucho más rápido y en profundidad análisis del perfil de una persona para generar mensajes de odio y abusivos, encontrar mejores formas de eludir la moderación de contenidos y que los abusadores lleguen a un público muy amplio.
En la misma línea, la IA puede facilitar el robo de identidad, así como el acoso, ser una herramienta muy poderosa para la vigilancia de la vida privada de las víctimas en entornos en línea y fuera de línea y puede permitir el seguimiento a través de cámaras, el análisis de datos digitales, como el correo electrónico y los mensajes, y la localización predictiva.
Esta nueva tecnología también puede facilitar los delitos sexuales contra niñas, ya que los autores pueden utilizar la IA para hacerse pasar por niños o jóvenes y para automatizar la captación de menores desprevenidos a gran escala.
Lea:La IA, su impacto y desafíos en América Latinahttps://www.la-razon.com/financiero/2024/08/11/la-ia-su-impacto-y-desafios-en-america-latina/
USOS POSITIVOS
Sin embargo, al igual que las tecnologías digitales en general, «la IA es un arma de doble filo para los derechos de la mujer e incluye muchos usos potencialmente positivos para combatir la violencia de género tanto en entornos offline como online».
Por ejemplo, puede hacer posible la identificación de niños que aparecen en imágenes o vídeos de pornografía infantil, vigilar las plataformas en línea para detectar discursos sexistas y misóginos, así como actos de ciberviolencia contra mujeres individuales.
El informe también señala que los algoritmos de hash pueden ayudar a identificar fotos y buscar contenidos ilegales conocidos, mientras que las herramientas de IA basadas en modelos de aprendizaje automático pueden buscar contenidos ilegales desconocidos hasta ahora.
LA INTERSECCIÓN CON LA VIOLENCIA EN LA VIDA REAL
El estudio apunta a que una de las dificultades a la hora de abordar la ciberviolencia contra las mujeres es su intersección con la violencia en la vida real, donde los actos en el mundo digital conducen a la violencia física, ya sea inspirada por la ciberviolencia o como continuación de ésta.
«Esto no quiere decir que la ciberviolencia en sí misma tenga un impacto menor en sus víctimas, sino que la violencia física que puede derivarse de ella exacerba la ciberviolencia», como sucede en la pornografía.
Otro ejemplo de la posible propagación del abuso digital a la vida real es la radicalización misógina y antifeminista en las plataformas en línea, advierte el informe.
El Parlamento Europeo celebra a lo largo de estos días la semana de la Igualdad de Género bajo el lema ‘La mujer en el mundo digital: seguridad y empoderamiento’ con el objetivo de destacar y buscar soluciones a la creciente cuestión del acoso en línea y la ciberviolencia.
La programación incluye debates que van desde el intercambio de puntos de vista sobre la integración de la perspectiva de género en el presupuesto de la UE al análisis de la representación de las mujeres en el liderazgo político y administrativo.
La eliminación de la violencia contra las mujeres y su empoderamiento en el mundo digital centrará otro de los actos que celebra la Eurocámara esta semana y en el que se espera la participación del expresidente del Gobierno José Luis Rodríguez Zapatero, entre otros.
EL CIBERACOSO EN CIFRAS
A escala europea no existe ninguna encuesta exhaustiva sobre la ciberviolencia en sus diferentes formas. Sin embargo, la Agencia de los Derechos Fundamentales (FRA) publicó una encuesta realizada entre 2012-2014 sobre la violencia en línea contra las mujeres y más concretamente sobre el ciberacoso y el hostigamiento como parte de sus encuestas globales sobre la violencia contra las mujeres en todos los Estados miembros de la UE.
La encuesta reveló que una de cada diez mujeres (11 %) se había enfrentado al menos a una forma de ciberacoso desde los 15 años y una de cada 20 (5 %) en los 12 meses anteriores a la encuesta.
Las formas de ciberacoso contempladas incluían el ciberflashing (envío de imágenes sexuales no solicitadas), pero no la distribución de imágenes íntimas no consentidas.
La encuesta de derechos fundamentales de la FRA de 2019 proporcionó datos sobre el ciberacoso desglosados por género. En ella se constató que el 13% de las mujeres de la UE habían sido objeto de ciberacoso en los últimos 5 años frente al 15% de los hombres.
En el caso del ciberacoso, la tasa más alta se registró en el grupo de edad de 16 a 29 años, ya que el 27% había sufrido ciberacoso en los 5 años anteriores a la encuesta.
