Imágenes pornográficas con adolescentes generadas con inteligencia artificial usando fotografías reales de sus conocidas. La Fiscalía de Menores de Alicante investiga los primeros casos en la provincia de Alicante de una nueva modalidad delictiva que usa las nuevas tecnologías y que ha sido bautizada como morphing.
El primer gran caso a nivel nacional que tuvo trascendencia mediática fue el de un grupo de hasta quince jóvenes que crearon con IA imágenes de falsos desnudos de algunas de sus compañeras de clase en un instituto de Almendralejo y luego las difundieron. El pasado verano fueron condenados a la pena de un año de libertad vigilada.
La jurisdicción de Menores de la provincia de Alicante ya tiene abiertas diligencias en siete causas diferentes en las que se ha usado la IA para generar estas imágenes. Los implicados están siendo investigados por delitos de pornografía infantil y contra la integridad moral.
Según fuentes judiciales, en cinco de los casos investigados, la tecnología deepfake se usó para crear imágenes de contenido pornográfico valiéndose de imágenes reales de la cara de sus víctimas. Las mismas fuentes precisaron que se trataba de unos montajes un tanto rudimentarios, en las que se notaba que la foto del rostro se había pegado sobre otro cuerpo. En la mayoría de estos casos, el móvil no era exclusivamente sexual, sino que era una herramienta de acoso y ciberbullying hacia las víctimas. Compañeras a las que los investigados trataban de humillar y ridiculizar. Para uno de los adolescentes, no era el primer procedimiento incoado por una conducta de naturaleza sexual
Sin embargo, en las diligencias abiertas en la provincia, esa tecnología se ha utilizado también con las fotografías de uno de los profesores, explicaron las mismas fuetes. Hay una séptima causa abierta, en la que el montaje se hizo con las fotos de un personaje público de la esfera nacional, cuya identidad no ha trascendido para evitar su victimización. En esta ocasión, el objetivo no era ni el acoso, ni la extorsión, sino puramente económico. Los montajes se vendían a través de una página de internet, que permitía la descarga de paquetes de fotos previo pago. En este último caso, a los investigadores les llamó la atención los profundos conocimientos informáticos que tenía el investigado, pese a su corta edad, con una web perfectamente estructurada y operativa para poder recibir el dinero de sus potenciales clientes.
Los siete casos se encuentran todavía en fase de investigación y por el momento no se han enviado a juicio.
Las nuevas tecnologías han generado nuevas formas de delincuencia, algunas relacionadas con el acceso de los menores a contenidos pornográficos, hasta el punto de que constituye su primera formación en materia sexual. La última memoria de la Fiscalía General del Estado alerta de la irrupción de las tecnologías deepfake y ante la que se pide una mejor respuesta penal para poder hacerla frente, una problemática de la que también se hace eco el Ministerio Público alicantino. «Sería oportuno plantearse una tipificación penal más específica que diera cobertura a aquellos otros supuestos en los que, por las características del contenido elaborado y difundido, no se vea afectada la integridad moral de la víctima sino otros bienes jurídicos como, por ejemplo, la intimidad personal», señala el documento.
Los peligros de las redes
La Fiscalía recuerda que en ocasiones muchas de esas imágenes han sido previamente sustraídas u obtenidas en cualquier otra forma irregular y posteriormente publicitarlas posteriormente a través de la red. Incluso se incide en que a veces son los propios padres quienes sin saberlo dejan desprotegidos a sus hijos menores frente a estas amenazas. «En ocasiones los menores son sobreexpuestos en la red social por sus propios progenitores generando una huella digital de sus hijos que ellos, desde luego, ni han pedido ni autorizado, y cuyos efectos en el futuro pueden ser muy negativos, sin obviar que las imágenes en poder de terceros y a través de la inteligencia artificial, pueden convertirse en contenidos pedófilos o pornográficos.
Aunque el fiscal considera que de momento se cuenta con herramientas para poder perseguir estos delitos, «la actuación eficaz contra estas conductas demanda también de la articulación de instrumentos legales que faciliten su investigación y la persecución penal de sus responsables». Las normativas de la UE para la protección de la infancia abogan por iniciativas tales como la ampliación de la definición del material de abuso sexual infantil, para dar entrada a los contenidos que puedan generase con el uso de sistemas de inteligencia artificial; la elevación de las penas en determinados supuestos; el incremento de los plazos de prescripción de estos delitos de tal forma que las víctimas dispongan de mayor margen temporal para denunciarlos o la posibilidad de tipificar penalmente la gestión de infraestructuras on line que permitan o fomenten el abuso o la explotación sexual de los menores.
Suscríbete para seguir leyendo
