Una nueva extensión de Chrome puede detectar de forma fiable voces generadas por IA

Justo a tiempo para las elecciones estadounidenses de 2024, la empresa de detección de fraudes y análisis de llamadas Hiya lanzó una extensión gratuita de Chrome para detectar voces deepfake. El detector de voz Hiya Deepfake, acertadamente llamado, “escucha” las voces reproducidas en transmisiones de video o audio y asigna una puntuación de autenticidad, indicándole si es probable que sea real o falsa.

Hiya le dice a Engadget que los evaluadores externos han validado la extensión con una precisión superior al 99 por ciento. La compañía dice que esto incluso cubre las voces generadas por IA en las que el modelo de detección no se ha entrenado, y afirma que puede detectar voces creadas por nuevos modelos de síntesis tan pronto como se lanzan.

Probamos con la extensión antes del lanzamiento y parece funcionar bien. Saqué un video de YouTube sobre el pionero del blues Howlin’ Wolf que sospechaba que usaba narración de IA y le asignó una puntuación de autenticidad de 1/100, declarando que probablemente era un deepfake. Sospechas confirmadas.

Imagen promocional de la extensión del detector de voz deepfake de Hiya para Chrome. — Hola

Hiya lanzó un merecido golpe a las empresas de redes sociales por hacer necesaria una herramienta de este tipo. “Está claro que los sitios de redes sociales tienen la enorme responsabilidad de alertar a los usuarios cuando el contenido que están consumiendo tiene una alta probabilidad de ser una falsificación de IA”, escribió el presidente de Hiya, Kush Parikh, en un comunicado de prensa. “Actualmente, la responsabilidad recae en el individuo de estar atento a los riesgos y utilizar herramientas como nuestro detector de voz Deepfake para comprobar si le preocupa que el contenido esté siendo alterado. Es una gran petición, por lo que nos complace poder apoyarlos con una solución que les ayude a devolver parte del poder a sus manos”.

La extensión sólo necesita escuchar unos segundos de una voz para emitir un resultado. Funciona con un sistema de crédito para evitar que los servidores de Hiya se vean bloqueados por solicitudes excesivas. Obtendrás 20 créditos diarios, que pueden cubrir o no la avalancha de contenido manipulador de IA que encontrarás en las redes sociales en las próximas semanas.

Source link