Deepfakes sexuales, la violencia que crece

¿Qué significa el término deepfake? Un concepto que comenzó a visibilizarse en los últimos años y que tiene que ver con contenido audiovisual manipulado mediante IA para mostrar a personas haciendo o diciendo cosas que no sucedieron. Por lo general, el objetivo son las mujeres.

Flor de la V *

Esta semana incorporé un nuevo término a mi vocabulario: deepfake. Se llama así al contenido audiovisual manipulado mediante inteligencia artificial (IA) para mostrar a personas haciendo o diciendo cosas que nunca ocurrieron, generando representaciones falsas. Esto permite toda clase de escenarios, por ejemplo, material sexualizado o escenas de extrema violencia. El avance de esta era digital, que nos avasalla con información y herramientas al alcance de la mano, no nos da respiro. Como mamá de hijxs adolescentes, intento estar atenta a este mundo desconocido, porque la web no es lo que era hace treinta años, cuando lo más peligroso eran los virus de las páginas triple X. Hoy nos enfrentamos a nuevos desafíos.

La velocidad con la que avanza el desarrollo de la IA implica cambios en las prácticas sociales muy repentinos, y las violencias a las que se exponen las infancias son mucho más perturbadoras y peligrosas. El 4 de febrero de 2026 Unicef se pronunció sobre este tema y expresó su preocupación ante las constataciones del rápido aumento del volumen de imágenes de contenido sensible generadas con IA que circulan en la red, incluidas fotografías de niños y niñas manipuladas y sexualizadas. Según Unicef, nuevas pruebas confirman la magnitud de este problema que no deja de agravarse. Un estudio llevado por Unicef, Ecpat e Interpol en 11 países, mostró que al menos 1,2 millones de niños y niñas y adolescentes revelaron haberse visto afectados en los últimos años por la manipulación de sus imágenes mediante deepfakes con contenido sexual explícito. En algunos países, esa cifra representa 1 de cada 25 niños y niñas, lo que equivaldría a un estudiante por aula escolar estándar.

El rol de la familia.

¿Qué pasa cuando estas violencias no se producen para redes de pedofilia o consumo de hombres y se perpetúan por adolescentes por diversión u otros fines? En Sidney, Australia, un joven de 19 años enfrenta a una posible pena de siete años de cárcel por crear deepfake sexual y distribuirlo sin consentimiento en diversas cuentas en X. Desde el 2024, rige en ese país una ley para combatir el auge de este tipo de contenido. El joven se declaró culpable de haber cometido este delito y admitió además dos cargos por usar un servicio de telecomunicaciones de forma acosadora u ofensiva.

Esta noticia me llevó directo a pensar en su familia. Qué baldazo de agua fría para esos padres. ¿Cómo habrán reaccionado al enterarse de lo que había hecho su hijo? Quizá al principio fue la negación, ningún padre puede creer que su hijx sea capaz de hacer ciertas cosas. Hace poco les contaba el sentimiento que me genera la puerta cerrada del cuarto de mis hijxs. Cuántas cosas suceden en esas cuatro paredes que desconocemos. En principio, la confianza, los valores y el respeto son pilares fundamentales de mi familia e imagino que de la familia australiana también, como el de tantas otras y aun así, sus hijxs pueden llegar a hacer cosas terribles. ¿Qué llevará a un chico criado en una familia que le brindó amor a hacer algo así? Se me viene a la mente la serie Adolescencia y la cara de ese papá diciéndole a su hijo: “Vos no mataste a esa chica”. Sé que la comparación es extrema, pero lamentablemente existe un punto en común: la violencia hacia las mujeres.

Este uso de la tecnología refleja y perpetúa actitudes patriarcales que ven en las mujeres y disidencias objetos deshumanizados para el placer propio y de otros, además de contribuir a la normalización de la violencia y la explotación de género. Abordar estas prácticas es crucial para comprender el impacto que tienen en la percepción de las mujeres en la sociedad. Así como la necesidad de una regulación ética y legal sobre el uso de deepfakes y otras tecnologías, además de políticas públicas que regulen y condenen con penas severas a quienes las producen.

Lo importante es el acto.

Si bien no podemos generalizar, porque todos los casos son diferentes, no es lo mismo una red organizada para la explotación o la investigación que menciona Unicef, que el caso del adolescente australiano que además acosaba a sus víctimas. Cualquiera sea el caso, lo importante es que el abordaje sea serio y para que no se extienda la práctica del deepfake, ni se naturalice. De manera solapada, también se detecta en las escuelas de nuestro país. Los casos de compañeros que desnudan compañeras y comparten el material en grupos de varones, de novios que socializan contenido sexual de sus parejas, también ocurren acá. Los debates son interminables y las explicaciones son diversas: que son actos de inmadurez, que la persona que actuó así tiene problemas, que se reproducen esos estereotipos para pertenecer, que es contenido para ser compartidos por un grupo íntimo de amigos, etc. Yo creo que no importa el alcance, sino el acto. La tecnología nos plantea hoy escenarios inéditos, es cierto, mientras que la respuesta que necesitamos darles a nuestrxs hijxs es una que parece haber pasado de moda: aprender a mirar al otro como a un igual, enseñar que la empatía y el respeto por los demás no son filtros que se puedan desactivar con una IA.

* Página/12