El ciberacoso ya es considerado, legalmente, un tipo violencia contra las mujeres. La dimensión que ha alcanzado se mide en cifras difíciles de ignorar: el 98% de los vídeos creados por inteligencia artificial (IA) son pornográficos y el 99% de las personas objetivo en esa pornografía son mujeres, según datos de la Agencia de Derechos Fundamentales (FRA). En la actualidad, 1 de cada 10 mujeres (11%) ha sufrido al menos una forma de ciberacoso desde los 15 años, un dato que se dispara entre las jóvenes de 16 a 29 años: el 27% de ellas lo ha experimentado en los últimos cinco años.
La primera ley integral a escala europea destinada a combatir la violencia contra las mujeres y la violencia doméstica, en vigor desde 2024, y que incluye el ciberacoso entre los delitos contemplados, será obligatoria para que los Estados la implementen en 2027, por lo que este es un año crucial en la que los Vientisiete la irán integrando.
Con estos datos tan alarmantes y un marco normativo en construcción, en vísperas del Día de la Mujer, el Parlamento Europeo celebró una sesión de Comité Interparlamentario para valorar cómo reforzar los derechos de más de la mitad de su población (el 51%, lo que se traduce en 10 millones más de mujeres que de hombres en la Unión Europea), en un intento de que no todos los temas queden a la sombra de la incertidumbre geopolítica.
Pornografía no solicitada
«¿Quiénes son los propietarios de las plataformas que permiten ese abuso online continuado?», preguntó a la audiencia Silvia Semenzin, investigadora italiana experta en violencia de género facilitada por la tecnología, que además es profesora en la Universitat Oberta de Catalunya (UOC). «Son hombres blancos, multimillonarios en Silicon Valley», señaló.
Especialista en gobernanza de plataformas, pidió que, más allá de apelar a la responsabilidad ciudadana, el foco se pusiera en quién diseña y se beneficia de las infraestructuras digitales. No es casualidad que, en cuanto la plataforma detecta que el usuario es un hombre, comience a recomendarle contenido sexual y misógino y, eventualmente, pornográfico, aunque este no haya siquiera buscado algo remotamente parecido. Es, simplemente, el anzuelo que las plataformas lanzan indiscriminadamente a todo usuario identificado como masculino, para retenerlo mirando la pantalla porque, en general, funciona. «Bastan menos de 23 minutos para que la plataforma recomiende contenido misógino a un hombre», señaló la investigadora, exigiendo rendición de cuentas a los gigantes tecnológicos.
IA para sexualizar
La razón por la que la violencia online ha pasado a considerarse una forma más de acoso y abuso es que, si bien se ejerce en línea, la víctima sufre estragos físicos y mentales. «Las consecuencias no son únicamente virtuales, son profundamente reales», subrayó Julie Guichard, responsable de asuntos públicos de seguridad digital en Microsoft. En este contexto, la IA no siempre es el origen del daño, pero sí «reconfigura cómo se infligen los daños y la velocidad a la que se extienden».
En el caso de la distribución de imágenes sexuales sin consentimiento, sean reales o alteradas por IA, Guichard hizo hincapié en retirar el contenido a tiempo para contener el impacto y el daño. Cada hora y cada minuto cuentan, ya que cuando el contenido se expande «es prácticamente imposible volver atrás en Internet»: una vez difundido, «el perjuicio es prácticamente irreparable», enfatizó.
Ley en construcción
La respuesta de Bruselas fija estándares mínimos para que los Estados tipifiquen como delito varias formas graves de ciberviolencia, entre ellas el llamado cyberflashing (difusión no consentida de material íntimo real), la alteración de imágenes con IA para crear falsos desnudos, el ciberacecho y ciberacoso y la ciberincitación a la violencia o al odio.
La base legal establecida se concentra en los casos con daño grave, incluido daño psicológico grave, o cuando la víctima teme seriamente por su seguridad o la de sus dependientes (ya que la violencia vicaria también se ejerce online), e incorpora límites para preservar la libertad de expresión en el delito de incitación.
La UE endurece la ley de violencia digital contra las mujeres y obligará a los Estados a penalizar el ciberacoso / Parlamento Europeo
Plataformas y retirada
Sin embargo, la realidad es que una directiva reconozca un derecho, no es garantía de su cumplimiento en los Estados miembros. Por ejemplo, es obligación de las plataformas borrar contenido detectado como ilícito, según el reglamento general de protección de datos, pero en la práctica, se trata de toda una lucha para las víctimas: hay que localizar copias en múltiples servidores, solicitar borrados uno a uno y lidiar con la falta de cooperación entre las diferentes redes sociales y aplicaciones de mensajería.
En paralelo, la Digital Services Act (DSA) obliga a las plataformas a contar con mecanismos para frenar contenido ilegal. En concreto, exige que las víctimas puedan lograr que el material íntimo difundido sin consentimiento o manipulado se retire mediante tramitación rápida de avisos y retirada sin demora indebida. Las obligaciones generales del DSA están en vigor desde el 17 de febrero de 2024.
Guichard lo enlazó con un problema operativo, común a todas las tecnológicas: «Las denuncias de los usuarios no escalan». Explicó un enfoque «centrado en la víctima», con sistemas que usan una «huella digital» para impedir que imágenes denunciadas reaparezcan en búsquedas. Y remató con un argumento de coordinación: «No necesitamos la ley para hacer lo correcto; sin embargo, la ley crea el ecosistema necesario para que tenga impacto», porque las imágenes ilícitas circulan de una plataforma a otra con más rapidez que la capacidad legal para detectarlas.
El riesgo de la hipervigilancia
El riesgo de controlar la amenaza escurridiza del acoso y el abuso en línea es que la hipervigilancia acabe por volverse en contra de las víctimas. Semenzin advirtió sobre atajos tecnológicos y “los riesgos de la hipervigilancia” presentada como vía para identificar agresores, porque esas herramientas podrían usarse después contra las propias mujeres y “victimizarlas dos veces”.
Y, pese a admitir el rol de las grandes tecnológicas, instó a las instituciones europeas a tomar las riendas para asegurarse de que hay un marco legal fuerte y de que se cumple en todos los Estados miembros. «Los derechos fundamentales no pueden depender de la buena voluntad corporativa. El futuro de nuestra democracia no puede dejarse en manos de las grandes tecnológicas», incidió la investigadora.
Suscríbete para seguir leyendo
