Violencia digital con IA: Guía de actuación para padres y víctimas ante fotos manipuladas con inteligencia artificial

La Inteligencia Artificial ha abierto un mundo de posibilidades, desde animar fotos antiguas de nuestros abuelos hasta crear escenarios de fantasía.

Sin embargo, la curiosidad humana y la falta de escrúpulos han dado lugar a una tendencia alarmante: el uso de la IA para desnudar digitalmente a mujeres, incluyendo a menores de edad.

Esto no es una simple «gamberrada» o un problema estético; los expertos, como el abogado José Morato, ya lo catalogan sin rodeos como «violencia sexual digital».

Si eres padre, madre o docente y te has encontrado con esta situación en tu entorno, aquí te explicamos qué está pasando y, lo más importante, qué pasos legales y prácticos debes seguir.

El peligro de la «tormenta perfecta»

Recientemente, plataformas como Grok (la IA de la red social X) han estado en el ojo del huracán por permitir generar imágenes de mujeres desnudas, muchas veces conocidas, familiares o compañeras de clase, con apenas un par de clics.

Aunque existen filtros, los usuarios encuentran formas de evadirlos mediante el uso de palabras clave alternativas.

Esto crea lo que se conoce como una «tormenta perfecta»: tecnología muy potente, pocos filtros de seguridad y una difusión inmediata. Casos como el de Almendralejo en 2023, donde menores usaron una app para desnudar a compañeras de instituto, demuestran que esto puede ocurrir en cualquier aula.

¿Qué hacer si detectas una foto manipulada de tu hijo/a o alumno/a?

Si descubres que alguien ha publicado una imagen editada de un menor (o de un adulto) desnuda, es vital actuar rápido y con firmeza. Aquí tienes la hoja de ruta basada en las herramientas legales actuales:

1. Activa el «Botón del Pánico»: El Canal Prioritario de la AEPD

No necesitas esperar a un juicio para detener la difusión. En España, la normativa permite activar el Canal Prioritario de la Agencia Española de Protección de Datos (AEPD).

• ¿Para qué sirve? Es la vía más rápida para frenar el daño y retirar el contenido de forma urgente.
• ¿Por qué funciona? Aunque el cuerpo sea falso, la imagen manipulada basada en una persona real sigue considerándose un dato personal porque reproduce rasgos identificables. Al ser de naturaleza sexual, son datos sensibles que requieren máxima protección.

2. Denuncia: Es un delito con penas de cárcel

Quitarle la importancia al asunto es un error. Colgar la imagen de una persona desnuda generada por IA puede conllevar sanciones de multa e incluso penas de cárcel.

• Consecuencias Penales: Se ponen en juego derechos fundamentales protegidos por el Código Penal, como el honor, la intimidad y la propia imagen.
• Agravante con menores: Si la víctima es menor de edad, las consecuencias civiles y penales se agravan considerablemente. De hecho, los expertos advierten que estas acciones pueden perseguirse legalmente como pornografía infantil.

3. Solicita indemnización por daños

Además de la vía penal, existe la responsabilidad civil. Los tribunales están reconociendo indemnizaciones importantes porque entienden que el daño moral y reputacional es enorme, independientemente de que la imagen sea falsa. Una expareja o un compañero que realice este tipo de venganza o «broma» se expone a pagar indemnizaciones muy elevadas.

La responsabilidad de las plataformas

No todo vale en internet. El Reglamento Europeo de IA, en su artículo 53, obliga a los proveedores a evaluar riesgos, mitigarlos y documentarlos. Si una herramienta permite generar contenido dañino tan fácilmente, la plataforma podría estar incumpliendo la ley al no realizar correctamente esa evaluación de riesgos.

Además, existe una obligación de transparencia (artículo 50) para avisar cuando una imagen puede confundirse con la realidad. Herramientas que buscan que las imágenes parezcan reales sin avisar, como ocurría con Grok, van en contra de este principio.

Conclusión: No tirar la toalla

Es fundamental entender que internet es un espacio libre, pero esa libertad termina donde se dañan los derechos fundamentales de otros. Lo que para algunos jóvenes comienza como una picardía, es en realidad una violación de derechos penada y castigada.

Si te ha pasado a ti o conoces a alguien en el colegio o instituto que esté sufriendo esto:

1. Solicita la retirada inmediata del material (Canal Prioritario AEPD).
2. Denuncia para que se aplique la pena acorde al daño infligido.
3. Recuerda que la IA no es una barra libre; hay reglas para proteger a la sociedad.

La educación y la acción legal rápida son nuestras mejores armas para frenar esta nueva forma de agresión.