Kate Ruane, directora del proyecto de libre expresión del Centro para la Democracia y la Tecnología, dice que la mayoría de las principales plataformas tecnológicas ahora tienen políticas que prohíben la distribución no consensuada de imágenes íntimas, y muchas de las más importantes acuerdan principios para abordar los deepfakes. “Yo diría que en realidad no está claro si la creación o distribución de imágenes íntimas no consentidas está prohibida en la plataforma”, dice Ruane sobre los términos de servicio de Telegram, que son menos detallados que los de otras plataformas tecnológicas importantes.
El enfoque de Telegram para eliminar contenido dañino ha sido criticado durante mucho tiempo por grupos de la sociedad civil, y la plataforma históricamente ha alojado a estafadores, grupos de extrema derecha y contenido relacionado con el terrorismo. Desde que el director ejecutivo y fundador de Telegram, Pavel Durov, fue arrestado y acusado en Francia en agosto en relación con una variedad de posibles delitos, Telegram ha comenzado a realizar algunos cambios en sus términos de servicio y a proporcionar datos a las fuerzas del orden. La compañía no respondió a las preguntas de WIRED sobre si prohíbe específicamente los deepfakes explícitos.
Ejecutar el daño
Ajder, el investigador que descubrió los bots de Telegram deepfake hace cuatro años, dice que la aplicación está en una posición casi única para el abuso de deepfake. “Telegram te proporciona la función de búsqueda, por lo que te permite identificar comunidades, chats y bots”, dice Ajder. “Proporciona la funcionalidad de alojamiento de bots, por lo que es un lugar que proporciona las herramientas vigentes. Entonces también es el lugar donde puedes compartirlo y realmente ejecutar el daño en términos del resultado final”.
A finales de septiembre, varios canales deepfake comenzaron a publicar que Telegram había eliminado sus bots. No está claro qué provocó las deportaciones. El 30 de septiembre, un canal con 295.000 suscriptores publicó que Telegram había “prohibido” sus bots, pero publicó un nuevo enlace de bot para que lo usaran los usuarios. (El canal fue eliminado después de que WIRED enviara preguntas a Telegram).
“Una de las cosas realmente preocupantes de aplicaciones como Telegram es que es muy difícil de rastrear y monitorear, particularmente desde la perspectiva de los sobrevivientes”, dice Elena Michael, cofundadora y directora de #NotYourPorn, un grupo de campaña que trabaja para proteger a las personas. del abuso sexual basado en imágenes.
Michael dice que ha sido “notoriamente difícil” discutir temas de seguridad con Telegram, pero señala que ha habido algunos avances por parte de la compañía en los últimos años. Sin embargo, dice que la empresa debería ser más proactiva a la hora de moderar y filtrar el contenido.
“Imagínese si usted fuera un sobreviviente que tuviera que hacer eso por sí mismo, seguramente la carga no debería recaer en un individuo”, dice Michael. “Seguramente la carga debería recaer en la empresa para implementar algo que sea proactivo en lugar de reactivo”.
Leave a Reply