¿Cómo identificar audios creados con inteligencia artificial?

Es este Explicador te damos 5 recomendaciones; unas te ayudarán a afinar el pensamiento crítico y el oído, y otras te llevarán a apoyarte en la tecnología. Recuerda que cada caso es único y que las herramientas no son del todo concluyentes.

Marcelo Blanco

En los últimos meses y a propósito de diversos hechos, comenzaron a circular en las redes sociales varios audios, supuestamente «filtrados», en los que personalidades de la política, de los medios de comunicación y la farándula hacen afirmaciones «comprometedoras». Pero, ¿cuánto de esto es real y qué probabilidades hay de que estos audios hayan sido creados usando inteligencia artificial (IA) con la finalidad de desinformar y causar daño?

En este Explicador, te contamos cómo puedes detectar preliminarmente si un audio es o no real. Eso sí, no te dejes seducir por completo con las herramientas de análisis digital en vista de que no son del todo concluyentes. Cada caso de estudio es distinto y único, pues existen audios creados con IA de muy baja calidad y otros mucho más elaborados.

En Bolivia Verifica empleamos herramientas avanzadas para desarrollar nuestro trabajo y, eventualmente, recurrimos a expertos en sonido para desarrollar nuestras verificaciones. Además, realizamos un trabajo periodístico riguroso de búsqueda de datos y evidencia adicional. Por tanto, toma en cuenta que los recursos que aquí te compartimos son útiles para hacer una primera aproximación.

Audios falsos que generaron desinformación

En el último año, Bolivia Verifica identificó un alza en la circulación de audios creados con inteligencia artificial, donde se suplanta la identidad de una persona para atribuirle declaraciones que nunca hizo. Algunos ejemplos son las veces en que se emuló la voz del expresidente Evo Morales, del presidente Luis Arce Catacora y de la encargada de Negocios de la Embajada de Estados Unidos en Bolivia Debra Hevia. Asimismo, de afamados presentadores de medios de comunicación nacional y figuras de la farándula, como el español David Bisbal y Ricardo Arjona.

En el caso de Arce Catacora se creó en TikTok una cuenta de nombre editortiko, que cada cierto tiempo comparte videos en los que se ve y escucha al mandatario hacer declaraciones referidas a la crisis económica y subida de precios con afirmaciones que nunca hizo.

Sobre Morales se usó su voz e imagen para promocionar un falso plan de inversiones y en el caso de Hevia circuló un audio falso con el que se aseguraba que existía un plan desde Estados Unidos para derrocar del poder al Movimiento Al Socialismo.

Respecto al cantante español, circuló una canción a la selección boliviana con la voz de Bisbal, pero no era real. Todos estos contenidos fueron desmentidos por Bolivia Verifica.

Procesos penales en curso por supuestos «audios filtrados»

A finales de 2024, el periodista José Pomacusi compartió un audio en el que se escucha al creador de contenidos cruceño Rafa Hurtado decir que está recibiendo dinero por hacer propaganda para ciertos candidatos a las elecciones judiciales.

Hurtado afirmó categóricamente que este contenido era falso e inició un proceso en contra de Pomacusi por difundir información difamatoria. Además, en varios de sus videos se refirió a dicho audio para desvirtuarlo y citó a un experto de nombre joseus1995, quien asegura que el contenido es falso y así lo corroboró utilizando herramientas de análisis de IA.

Semanas después, empezó a circular otro audio, esta vez atribuido a Pomacusi, donde el periodista y productor estaría negociando sus servicios para favorecer al presidente Luis Arce Catacora. De igual manera, el periodista también negó categóricamente que sea real.

En vista de que este caso se ventila en los tribunales, serán el Ministerio Público, los peritos y, en última instancia, un juez, quien emita una sentencia al respecto. En situaciones como esta, y de acuerdo con nuestra metodología y principios, Bolivia Verifica se abstiene de hacer los respectivos análisis de contenido, precisamente porque el caso está en manos de la justicia.

¿Cómo identificar qué audios son falsos?

Para descifrar si un audio es una creación con inteligencia artificial o no, Bolivia Verifica realiza los siguientes procedimientos. Cualquiera de estos cinco pasos pueden servir a cualquier persona para hacer un análisis preliminar y no caer en engaños.

1. Revisar el contexto: Siempre se debe ver en qué contexto circula el audio, quién lo compartió, si el audio se difunde en formato de video (las imágenes también pueden ser reveladoras, por ejemplo si se ven robotizadas).
2. Analizar los detalles: Se debe comparar el audio con uno real, tratar de establecer si en la voz hay altos y bajos, o los tonos usualmente empleados por las personas cuando hablan, si hay naturalidad (y no parece recitado) y si se pronuncian bien todas las palabras (a veces, la IA no reconoce algunos términos y los pronuncia mal).
3. Utilizar herramientas de detección de IA: Se pueden utilizar diversas herramientas de detección de audios falsos, pero como ya dijimos, estas solo te darán un diagnostico preliminar y no es correcto tomar una decisión concluyente solo con emplearlas.
4. Usar herramientas de edición de audios: Se debe limpiar el audio para escuchar a detalle la voz y los tonos, para ver si existe alguna anomalía que dé a pensar que no es real. Hay varios recursos de este tipo disponibles en internet y sin costo.
5. Analizarlo con un experto: Acudir a expertos en el manejo de audios y edición es importante, ya que tienen las habilidades técnicas y humanas para analizar con más criterio los contenidos sospechosos. Estos expertos puede emitir conclusiones más claras en base a pruebas reales.

Lo que no se debe hacer

Los expertos internacionales en verificación de audios falsos recomiendan no confiar al 100% en las herramientas que detectan IA, ya que pueden dar falsos positivos o falsos negativos.

¿El motivo? Pueden existir diversos factores que hayan contaminado el análisis. Por ejemplo, el sonido de fondo que suelen colocar a los audios dificulta el examen; lo mismo pasa cuando un audio es convertido a otro formato (de mp3 a mp4) para ser subido como video a una plataforma como TikTok.

Además, los metadatos de origen se borran cuando un archivo es subido a una red social. Los metadatos son un conjunto de información que describe otros datos como: cuándo, quién, cómo y dónde se creó el contenido, así como su tamaño original.

Todos estos factores pueden causar que la herramienta arroje resultados erróneos. En todo caso, todas las herramientas advierten su fiabilidad en porcentajes, ninguna ofrece un resultado 100% concluyente, precisamente por los aspectos antes mencionados.

Desde Bolivia Verifica se recomienda dudar de todos los contenidos que carecen de una fuente fiable y evitar compartirlos para no amplificar una posible desinformación.