Falso: tres herramientas detectan indicios de generación con IA en un audio atribuido a Cerimedo y Doria Medina
Por: Helga Velasco
Un audio publicado por la cuenta de facebook Soy el pueblo recargado presenta una conversación entre Fernando Cerimedo y Samuel Doria Medina, en la que ambos hablan sobre el senador suplente Nilton Condori y el caso Fancesa-Soboce. Sin embargo, el contenido es falso; presenta indicios de haber sido generado con inteligencia artificial (IA). Tres herramientas de análisis identificaron señales compatibles con una manipulación sintética de la voz.
El audio dura más de dos minutos y circula en redes sociales junto con una imagen que también presenta indicios de haber sido generada con inteligencia artificial. Pese a las dudas expresadas por algunos usuarios sobre su autenticidad, la publicación alcanzó una amplia difusión. A continuación, se transcriben algunas frases del diálogo.
FC: Escuchame, Samuel, ¿tenés tiempo para vernos un momento? Pero de una vez lo digo por acá: recién hablé con el presidente. Tenemos que cagarlo a Condori.
SDM: Sí, yo también quería hablar contigo. Ese Condori es un cojudo. Ya le hemos pedido que se retracte por sus declaraciones de cerrar la Asamblea, pero no creo que lo haga. Así que te respaldo en todo lo que hagan ustedes para joderlo. Es un figureti, es un burro, no sabe qué hacer para llamar la atención.
FC: Si la idea es ir de frente, Condori tiene que ser expulsado de la Asamblea y vos ya te encargás de poner a alguien de tu partido en su lugar, porque el curul es de tu partido.
SDM: Ah, sí, de acuerdo. Lo vamos a enviar a la Comisión de Ética en el Senado para suspenderlo. Ya hablé con los senadores de Alianza y después lo vamos a expulsar de Unidad Nacional. Eso ya lo he decidido.
Tres herramientas detectaron indicios de manipulación con IA
Para analizar el audio, separamos la voz de la música de fondo que acompañaba la publicación original. Luego, sometimos el archivo a tres herramientas de detección de voces sintéticas: TruthScan, Hiya Deepfake Voice Detector e IA Voice Detector.
TruthScan identificó un 79 % de probabilidad de manipulación mediante IA. En su reporte, la herramienta señaló que el audio presenta características como la ausencia de pausas respiratorias naturales, una cadencia rítmica uniforme y una prosodia emocional poco variable. Estos rasgos, según el análisis, son compatibles con voces generadas mediante sistemas de conversión de texto a voz.
El reporte también mencionó la ausencia de sonidos bucales y transiciones respiratorias naturales, elementos que pueden ayudar a distinguir una voz humana de una sintética.
Por su parte, Hiya Deepfake Voice Detector registró porcentajes de autenticidad de entre el 2 % y el 14 % en distintos segmentos del audio y clasificó varios de ellos como posibles deepfakes, es decir, contenidos sintéticos o manipulados mediante inteligencia artificial.
La tercera herramienta, IA Voice Detector, estimó un 83 % de probabilidad de que el contenido hubiera sido generado o manipulado con IA. Además, identificó en su línea de tiempo segmentos con una alta probabilidad de manipulación sintética.
Estos resultados apuntan a que el audio presenta señales compatibles con la generación artificial de voz. Sin embargo, las herramientas automatizadas no permiten establecer por sí solas el origen del archivo ni demostrar de manera concluyente quién lo produjo. Sus resultados deben interpretarse junto con otros elementos de verificación.
La IA y el clickbait emocional impulsan la difusión de un audio falso en redes sociales
La publicación difundida por la cuenta de Facebook Soy el Pueblo Recargado acumuló más de 11.000 reacciones, fue compartida 13.000 veces y recibió más de 2.000 comentarios, de acuerdo con los datos registrados al momento de la revisión.
Entre los comentarios, varios usuarios señalaron que el audio sonaba poco natural o cuestionaron el uso de inteligencia artificial para fabricar este tipo de contenidos.
La cantidad de reacciones, comentarios y veces que una publicación se comparte puede contribuir a que gane visibilidad en las plataformas digitales. Por eso, un contenido puede alcanzar una amplia difusión incluso cuando algunos usuarios ponen en duda su autenticidad o advierten que podría ser sintético.
En este caso, el audio aborda temas polémicos que pueden generar reacciones inmediatas. La molestia, la indignación y las críticas expresadas en los comentarios también pueden incentivar nuevas interacciones y ampliar su alcance. Este fenómeno puede relacionarse con el clickbait emocional, una estrategia que busca captar la atención y provocar respuestas mediante contenidos que apelan a las emociones.
Samuel Doria Medina negó la autenticidad del audio
El líder de Unidad Nacional, Samuel Doria Medina, se pronunció en sus redes sociales sobre el audio difundido y negó su autenticidad.
La declaración constituye un elemento adicional para contextualizar la verificación, pero la evaluación del contenido se basa también en el análisis del archivo y en los resultados obtenidos con las herramientas de detección.
Conclusión
El audio presenta indicios de haber sido generado o manipulado con inteligencia artificial, según los resultados de tres herramientas de análisis. Su difusión muestra cómo los contenidos sintéticos pueden utilizarse para desinformar y generar reacciones mediante el clickbait emocional, una estrategia que busca captar la atención y provocar indignación, enojo o curiosidad para incentivar las interacciones.
Ante este tipo de publicaciones, se recomienda verificar su origen, contrastar la información con fuentes confiables y no compartir contenidos cuya autenticidad no haya sido comprobada. También es importante evitar reaccionar, comentar o compartir publicaciones que se sabe que son falsas o sintéticas, incluso para criticarlas, ya que estas interacciones pueden contribuir a aumentar su visibilidad en las plataformas digitales.
