Corea del Sur investiga a Telegram por supuestos deepfakes sexuales

SEÚL, Corea del Sur — Estudiantes de todas las edades, maestras, soldados y ahora periodistas. Cada vez más mujeres surcoreanas comunes y corrientes se están dando cuenta de que son víctimas de una forma de abuso sexual digital en rápido crecimiento: los deepfakes.

Las autoridades de Corea del Sur están trabajando duro para responder después de que los medios locales y esfuerzos colectivos descubrieron recientemente una gran cantidad de salas de chat en la aplicación de mensajería Telegram que distribuyen imágenes y videos sexuales falsos hechos con inteligencia artificial.

La Policía Nacional de Corea, que la semana pasada anunció una ofensiva contra los deepfakes sexualmente abusivos, dijo el lunes que inició una investigación sobre Telegram por posibles cargos de complicidad en la difusión de deepfakes sexualmente explícitos en su plataforma.

La agencia dice que es la primera vez que las fuerzas del orden de Corea del Sur investigan a la compañía, cuyo fundador, Pavel Durov, fue arrestado y acusado en Francia el mes pasado por presunta actividad ilegal en la plataforma.

El portavoz de Telegram, Remi Vaughn, dijo a NPR que la compañía “ha estado eliminando activamente contenido reportado desde Corea que viola sus términos de servicio y continuará haciéndolo”.

La Comisión de Normas de Comunicaciones de Corea, el organismo de control de medios del gobierno, dijo que Telegram cumplió con su solicitud y eliminó 25 deepfakes especificados por la comisión.

Una abrumadora mayoría de las víctimas de deepfakes en Corea del Sur son mujeres y adolescentes, según periodistas y activistas que han monitoreado algunas de las salas de chat.

Según los informes de los medios locales, los agresores toman imágenes de las víctimas de las redes sociales sin su conocimiento ni consentimiento, o toman fotografías en secreto de mujeres que están a su alrededor en casa o en la escuela. Luego alteran las imágenes utilizando inteligencia artificial y comparten los resultados en Telegram con desconocidos o usuarios que conocen a la víctima.

Algunas de las salas de chat que aparecen en búsquedas de términos como “sala de conocidos mutuos” o “sala de humillación” tienen miles de participantes.

No está claro el número de salas de chat de este tipo que funcionan en Telegram ni el alcance de sus supuestos abusos. Muchas salas de chat están cerradas y solo se puede acceder a ellas con un enlace de invitación o con el permiso del administrador de la sala de chat, y algunas habrían cerrado desde que activistas y medios de comunicación comenzaron a rastrearlas.

En una publicación en Telegram el jueves, el fundador y director ejecutivo de la plataforma, Durov, dijo que la compañía se ha “comprometido a colaborar con los reguladores para encontrar el equilibrio adecuado” entre privacidad y seguridad, aunque reconoció que la plataforma se ha vuelto “más fácil de abusar para los delincuentes”.

Pero los datos de las agencias policiales y gubernamentales de Corea del Sur muestran un fuerte aumento de los delitos sexuales digitales que involucran imágenes falsas en el país.

El organismo de control de medios del gobierno dijo que recibió casi 6.500 solicitudes para abordar videos deepfake con contenido sexual abusivo entre enero y julio de este año, cuatro veces el volumen de solicitudes del mismo período del año pasado.

Según la policía, en los primeros siete meses de este año se han denunciado 297 casos de delitos que involucran deepfakes sexualmente explícitos, frente a los 180 de todo 2023.

Muchas de las víctimas y los perpetradores son adolescentes. De los 178 sospechosos que la policía arrestó durante el período de siete meses, el 74% tenía entre 10 y 19 años, frente al 65% en 2021. Y más de la mitad de los deepfakes rastreados y borrados este año por el Centro de Defensa de las Víctimas de Abuso Sexual en Línea, administrado por el gobierno, involucraban a menores.

Los perpetradores están acosando a las mujeres

Corea del Sur ha luchado durante mucho tiempo contra los delitos sexuales, incluida la filmación ilegal, la difusión no consentida de imágenes sexualmente explícitas, el acoso online y el chantaje sexual.

Los creadores detrás del tipo de deepfakes que proliferan en Telegram a menudo apuntan a mujeres que conocen personalmente, en lugar de desconocidos al azar, según expertos en delitos sexuales en línea.

Para las víctimas, el daño que sufren estas agresiones por parte de alguien que conocen va más allá de violar su privacidad, afirma Chang Dahye, investigador del Instituto Coreano de Criminología y Justicia en Seúl, que ha estudiado las agresiones sexuales en línea.

“Pierden la confianza en sus comunidades”, afirma Chang. “Temen no poder seguir manteniendo su vida cotidiana con la gente que los rodea. En esencia, su confianza en las relaciones sociales se derrumba”.

Lo que también diferencia los deepfakes sexualmente abusivos de otros delitos, según Chang, es su propósito.

Algunos perpetradores están motivados por el dinero o el rencor.

Pero, dice Chang, “para la mayoría de los hombres que consumen estos contenidos, el objetivo es menospreciar a las mujeres en general”.

Ella explica que los deepfakes enfatizan rostros identificables y a menudo acompañan al acoso sexual verbal.

“Es una forma de expresar misoginia y enojo hacia las mujeres. Al burlarse y menospreciar a las mujeres, ellas obtienen afirmación de las demás”, dice Chang.

En una declaración conjunta de la semana pasada, los grupos de derechos de las mujeres dijeron que la “causa fundamental” de los abusos sexuales digitales recurrentes es el sexismo. Culparon al gobierno del presidente Yoon Suk Yeol por no reconocerlo y permitir que el problema se agrave.

Yoon ha dicho que “el sexismo estructural ya no existe” en Corea del Sur y se ha comprometido a abolir el Ministerio de Igualdad de Género y Familia del país.

El puesto de ministro ha permanecido vacante desde febrero, y el presupuesto del ministerio para prevenir la violencia contra las mujeres y ayudar a las víctimas sufrió un recorte significativo este año. En una propuesta presupuestaria anunciada recientemente para el próximo año, el fondo asignado al Centro de Defensa de las Víctimas de Abuso Sexual en Internet, que elimina material de abuso sexual en línea, disminuyó con respecto al año anterior, a pesar de la creciente carga de trabajo del centro.

A pesar de esos recortes, un grupo de trabajo de emergencia integrado por varias agencias del gobierno y el gobernante Partido del Poder Popular se comprometieron recientemente a fortalecer las investigaciones y el castigo por los delitos de deepfake y a aumentar el apoyo a las víctimas.

Las leyes relativas al abuso sexual digital se han ido desarrollando poco a poco, a medida que han ido ajustándose a los nuevos tipos de delitos que surgen a partir de las nuevas tecnologías. Según Chang, del Instituto Coreano de Criminología y Justicia, eso deja una brecha constante entre lo que las víctimas perciben como daño y lo que la ley considera un delito.

Incluso cuando una acción es perseguible según la ley, que actualmente penaliza los materiales manipulados o falsos que “puedan causar deseo sexual o vergüenza” y se crean “con el propósito de difusión”, los perpetradores a menudo evaden el castigo.

La tasa de arrestos por material sexual falso el año pasado fue del 48%, mucho menor que la tasa de otras formas de agresión sexual digital, según muestran las estadísticas policiales.

Y según un análisis de la emisora ​​surcoreana MBC, incluso si los perpetradores son juzgados en los tribunales, aproximadamente la mitad de ellos reciben sentencias suspendidas.

Chang afirma que el sistema legal aún tiene dificultades para reconocer el abuso sexual digital como un delito grave con víctimas reales. “En muchos casos, los jueces piensan que el daño no es tan grave como en la violencia sexual que implica contacto físico directo”, afirma.

El corresponsal de NPR, Anthony Kuhn, colaboró ​​con este reportaje desde Seúl, Corea del Sur.