Freno a la desinformación: tres herramientas claves en la época del “deepfake”

Prisa Radio, Witness y Content Authenticity Initiative presentaron herramientas y estrategias contra la desinformación generada con IA.  Witness, una ONG reconocida por su trabajo en derechos humanos y tecnología, presentó su iniciativa para monitorear y detectar la manipulación en videos.

La primera jornada de la IV Cumbre Global sobre Desinformación destinó un espacio a conocer un conjunto de iniciativas para hacer frente a la desinformación, especialmente en lo relacionado con las deepfake. En el panel denominado “Innovaciones tecnológicas contra la desinformación”, tres expertos en el área presentaron proyectos generados con inteligencia artificial (IA).

Los oradores coincidieron en que la IA desafía a los verificadores porque a priori y en general resulta difícil diferenciar cuándo un contenido (audio, video o fotografía) ha sido creado de manera artificial.

Una deepfake puede entenderse como un video, una imagen o un audio generado con inteligencia artificial, imitando la apariencia y la tonalidad de la voz de una persona de manera prácticamente imperceptible.

Los tres expositores explicaron cómo funcionan sus herramientas o iniciativas para combatir este tipo de desinformación. La moderación estuvo a cargo de Patricia Cusicanqui Hanssen, editora en jefe de Bolivia Verifica.

VerificAudio

Ana Ormaechea, directora de producto digital de Prisa Radio, explicó sobre la importancia de VerificAudio, una herramienta lanzada este 2024 para la detección de audios falsos.

“La clonación de voz es imperceptible para el oído humano, además se puede hacer de forma muy barata”, dijo la experta desde Madrid, España.

Ante ese uso de la IA, Prisa Radio decidió innovar con una herramienta para usarla en el combate de la desinformación y especialmente este año, en el que se desarrollaron elecciones en diferentes países del continente americano.

“Vimos que en esta nueva realidad, donde realmente el audio se iba a convertir en un formato fundamental, nuestra obligación era combatir esa desinformación detectando las voces falsas”, indicó.

Así nació VerificAudio como una herramienta para periodistas que permite la verificación de audios con una detección de deepfake creado con voces sintéticas.

VerificAudio tiene dos modelos de procesamiento de lenguaje natural; un identificador y otro comparativo. El identificador consiste en un modelo que compara el material sospechoso con audios de los archivos de las radios de Prisa con base en un conjunto de indicadores predeterminados, a los que entrega un porcentaje de autenticidad.

“La inteligencia artificial nos obliga a seguir avanzando con rapidez. Los malos van muy rápido y los buenos tenemos que ir igual de rápido, aprendiendo también con la IA”, acotó.

Prisa es un grupo empresarial que aglomera medios que generan contenidos educativos, de información y entretenimiento en el mercado de habla hispana con presencia en 23 países.

Monitoreo de videos

Witness, una organización no gubernamental estadounidense reconocida por su trabajo en derechos humanos y tecnología, presentó su modelo para monitorear y detectar la manipulación en videos, fortaleciendo la lucha contra la desinformación visual.

Jacobo Castellanos, coordinador del programa de Tecnología, Amenazas y Oportunidades de esta organización dijo que el video y la imagen tienen “un gran poder”, por eso, la inteligencia artificial está creando contenido audiovisual.

El experto llamó la atención sobre lo rápido que han evolucionado las herramientas que crean videos con alta calidad y en poco tiempo. “Los desinformantes se han dado cuenta de esto y han puesto a la IA a su servicio”.

“Tenemos que luchar contra la desinformación, pero al mismo tiempo debemos fortalecer la verdad y para ello, necesitamos tener herramientas”, dijo.

Para Castellanos, muchas de estas herramientas están enfocadas en detectar el contenido sintético o creado con IA, pero hay limitaciones técnicas para una verificación al 100 por ciento.

En ese contexto, Witness desarrolló un programa que se llama Grupo de respuesta rápida ante deepfakes. “No es una herramienta como tal, lo que hicimos es crear un modelo que acerca, que enlaza a periodistas locales con expertos forenses, con empresas investigadoras que tienen acceso a herramientas de vanguardia para que puedan trabajar en conjunto con el fin de hacer análisis en tiempos reales”, explicó.

Los periodistas mandan a ese grupo sus contenidos que no conocen su procedencia, entonces, en un periodo de 24 horas los especialistas forenses hacen sus análisis computacionales, según resaltó el expositor.

Identificación de metadatos

La Iniciativa de Autenticidad de Contenidos (CAI por su sigla en inglés) a través de Mateo Heras, uno sus impulsores, explicó sobre los avances en la identificación y verificación de metadatos en imágenes como en videos

CAI agrega información de procedencia a activos digitales (fotos, videos, grabaciones de audio o documentos) proporcionando a los periodistas una herramienta clave para asegurar la autenticidad del contenido visual.

“La Iniciativa de Autenticidad de Contenidos es un aporte en la lucha contra la desinformación y lo que hacemos es agregar información de procedencia al contenido digital de una forma tal que el lector, el espectador y el consumidor, puedan rápidamente ver de dónde viene eso que están mirando”, indicó.

Agregan información de procedencia en forma de credenciales al contenido. En sí, se trata de una base de datos para identificar la autenticidad y procedencia de los contenidos digitales.

Por ejemplo, estas credenciales de contenido pueden ayudar a los lectores a verificar la autenticidad de una imagen. Con un clic, un lector accede a detalles como la fecha y el lugar donde se tomó la foto, si se usó inteligencia artificial para generarla, y qué ediciones se realizaron.

Esta acción permite a los medios informar con transparencia y ofrecer al público herramientas para diferenciar el contenido auténtico del manipulado.

La IV Cumbre Global sobre Desinformación se desarrollada entre el 18 y 19 de septiembre de manera virtual, evento que congrega a 35 expertos internacionales y más de 1.500 participantes de América Latina, Estados Unidos y Europa.