'CaBot', el robot que detecta voces falsas gracias a la Inteligencia Artificial: ¿Cómo funciona?

La Inteligencia Artificial (IA) puede ayudar a detectar la desinformación o las estafas. Según informa Ana Martín en Noticias Cuatro, en Granada se presenta una aplicación que detecta audios falsos. Pese a que la IA puede conllevar riesgos como cibercrímenes o estafas, unos investigadores de la Universidad de Granada (UGR) han creado 'CaBot', una herramienta para que ninguna voz falsa se nos escape. Se trata de un avance que puede ser fundamental para los periodistas en su lucha diaria contra las 'fake news'. Y es que este tipo de tecnología va cogiendo mayor presencia en las empresas.

Zoraida Callejas es una de las investigadoras de la UGR y explica: “El hecho de que las voces (creadas por IA) suenen cada vez más naturales supone un peligro cuando alguien lo utiliza con un fin malicioso”. Daniel Calderón es otro de los investigadores de este proyecto, él comenta que lo han logrado “entrenando ciertos modelos con voces reales y falsas” para que la IA tenga una base con ejemplos.

Los investigadores muestran varios ejemplos con las voces de algunas personas como Pedro Sánchez, presidente del Gobierno, Yolanda Díaz, vicepresidenta segunda del Gobierno, o la del rey Felipe VI. Muestran primero la voz creada por IA y después la real, ambas prácticamente idénticas. Ellos llevan trabajando en el desarrollo del programa dos años. Zoraida Callejas cuenta: “No se puede dar nunca por cerrada la herramienta porque siempre aparecen nuevas formas de generar voces sintéticas”.

Según recoge el canal de la UGR, los investigadores forman parte del departamento de Lenguajes y Sistemas Informáticos y han realizado este proyecto en el marco de la Cátedra RTVE-UGR. La presentación se ha realizado en una rueda de prensa en el Hospital Real de Granada. Los investigadores son expertos en sistemas conversacionales y tecnologías del habla y del procesamiento del lenguaje.

Los avances en el uso de redes neuronales profundas para la síntesis de audio permiten conseguir voces sintéticas que cada vez parecen más reales. Este sistema ofrece una serie de ventajas: crear voces más inteligibles a los sistemas automáticos, como robots, asistentes virtuales o lectores de texto; y controlar las cualidades de las voces para que sean más variadas y expresivas, con el uso de aplicaciones para la producción de contenido multimedia.

Hay que tener en cuenta que la síntesis del habla puede usarse para generar o manipular grabaciones de audio con malas intenciones, como la suplantación de identidad en estafas telefónicas o la generación de noticias falsas. El audio suele ser uno de los menores problemas en las redacciones, comparado con otros tipos de desinformación como pueden ser las fotografías o los vídeos.

Los investigadores trabajan para superar la verificación y conseguir el desarrollo de herramientas periodísticas que se basen en la IA conversacional. Se pretende que los futuros programas aporten interactividad, accesibilidad y personalización de contenidos informativos.

Síguenos en nuestro canal de WhatsApp y conoce toda la actualidad al momento.