En las últimas semanas, un caso de acoso digital ha generado gran atención pública. Una joven de 17 años, después de rechazar a un chico con quien tuvo algunos encuentros, comenzó a ser objeto de ataques mediante deepfakes. Este individuo, frustrado por el rechazo, creó perfiles falsos en redes sociales y difundió información falsa sobre ella, incluyendo anuncios relacionados con prostitución y comentarios sobre su vida sexual. A pesar de haber solicitado apoyo policial, su denuncia no fue atendida adecuadamente, lo que refleja la ausencia de protocolos efectivos y protección para las víctimas de esta modalidad de violencia.
Este hecho refleja la creciente inquietud por el uso indebido de la inteligencia artificial en la elaboración de deepfakes, vídeos manipulados que simulan acciones o declaraciones inexistentes. La distribución de este tipo de contenidos puede ocasionar daños severos, especialmente en mujeres, que constituyen la mayoría de víctimas. Según un estudio reciente, el 99% de los deepfakes de índole pornográfica están dirigidos contra mujeres.
Ante esta situación, el Gobierno ha impulsado medidas, como la aprobación reciente de un anteproyecto de ley que incorpora los deepfakes dentro de los delitos contra el honor. Esta iniciativa busca sancionar la creciente presencia de contenidos falsos en redes sociales, reconociendo el impacto negativo que tienen en la reputación de las personas, en particular de las mujeres.
Sin embargo, la aplicación de esta ley presenta obstáculos. Aunque la mayoría de los deepfakes se crean con fines dañinos, se contemplan excepciones para obras artísticas, satíricas o de ficción. No obstante, resulta complejo establecer claramente dónde termina el uso legítimo y comienza el abuso, lo que dificulta su implementación práctica.
El caso de la joven no es único. Hay múltiples testimonios que reflejan el daño psicológico causado por estos ataques. Varias víctimas, como una joven que también fue acosada digitalmente, señalan que esta situación ha perjudicado significativamente su salud mental. En algunos casos, las afectadas llegan a plantearse medidas extremas como el suicidio.
Recientemente se destapó un escándalo en el que un grupo de 15 menores manipuló imágenes de compañeras en un colegio, evidenciando cómo el acoso y la violencia digital se vinculan con la explotación sexual y la pornografía infantil. Esta problemática afecta no solo a adultos, sino que también se ha vuelto alarmantemente común entre adolescentes.
Además, la regulación de los deepfakes enfrenta otro reto: la responsabilidad de las plataformas digitales. Las empresas de redes sociales suelen obtener beneficios por la viralidad de estos contenidos, sin considerar el daño que provocan. Las estadísticas demuestran que suelen aumentar sus ganancias conforme el contenido genera más controversia y difusión masiva.
Desde la Asociación STOP Violencia de Género Digital, se subraya la necesidad de endurecer las sanciones a quienes cometen delitos relacionados con deepfakes, ya que el daño ocasionado es difícil de medir. La rápida y masiva divulgación de este tipo de material puede destruir la reputación de una persona en cuestión de segundos y causar efectos duraderos en su salud mental.
