Algoritmos, automatización y educación digital: los desafíos que dejó el Día 2 de la Cumbre Global sobre Desinformación
Este 28 de mayo se llevó adelante el Día 2 de la Cumbre Global sobre Desinformación.
Por: Deseret Cabezas
La segunda jornada de la VI Cumbre Global sobre Desinformación estuvo enfocada en uno de los principales retos actuales del periodismo: cómo enfrentar un ecosistema digital donde la inteligencia artificial, los algoritmos y la automatización aceleran la circulación de contenidos manipulados.
Durante el encuentro virtual, especialistas internacionales en tecnología, fact-checking y alfabetización mediática analizaron las limitaciones de las plataformas digitales, el impacto de los sistemas automatizados y las nuevas herramientas utilizadas para detectar manipulación audiovisual y campañas coordinadas en redes sociales.
A diferencia de otros enfoques centrados únicamente en noticias falsas tradicionales, las exposiciones de esta jornada profundizaron en el funcionamiento de los algoritmos, la automatización del monitoreo digital y las estrategias educativas necesarias para responder a los nuevos escenarios de desinformación.
La arquitectura de la desinformación masiva
María Clara Pestre, representante de la Agence France-Presse (AFP), abrió una de las conferencias centradas en el impacto de la inteligencia artificial dentro de la circulación de contenidos manipulados.
Durante su exposición explicó cómo las campañas de desinformación actuales ya no funcionan únicamente mediante publicaciones aisladas, sino a través de estructuras digitales capaces de amplificar mensajes a gran escala utilizando herramientas automatizadas y contenidos sintéticos.
Pestre señaló que el equipo de fact-checking de AFP —integrado por más de 120 periodistas distribuidos en distintos países— realiza cientos de verificaciones mensuales en múltiples idiomas. Sin embargo, advirtió que la velocidad de producción y circulación de contenidos generados con inteligencia artificial representa uno de los mayores desafíos para los equipos de verificación.
Como ejemplo, mencionó casos recientes registrados en Brasil, donde publicaciones falsas creadas mediante IA y relacionadas con procesos políticos alcanzaron millones de interacciones en redes sociales en poco tiempo.
La exposición también advirtió que América Latina se ha convertido en uno de los escenarios más vulnerables frente a campañas coordinadas de desinformación debido a la limitada moderación de contenido en español.
Herramientas para detectar manipulación digital
Durante la jornada también se expusieron distintas herramientas utilizadas actualmente por periodistas y equipos de fact-checking para analizar contenido sospechoso.
Entre ellas destacaron:
– InVID y WeVerify, utilizadas para fragmentar videos y realizar búsquedas inversas.
– Hive Moderation, enfocada en la detección de imágenes generadas con inteligencia artificial.
– Deepware Scanner, especializada en análisis de deepfakes y clonación de voz.
Los especialistas coincidieron en que estas plataformas funcionan como apoyo técnico dentro de los procesos de verificación, aunque todavía enfrentan limitaciones frente al crecimiento acelerado de contenidos sintéticos.
Los límites de la inteligencia artificial en la detección
Uno de los enfoques abordados durante la jornada estuvo relacionado con la capacidad de la propia inteligencia artificial para detectar materiales creados mediante IA.
Los expositores explicaron que muchos sistemas actuales todavía presentan márgenes importantes de error, siendo propensos a generar falsos positivos o, por el contrario, a no identificar determinados contenidos manipulados de forma sintética.
La detección automática continúa siendo un campo en desarrollo y muchas herramientas tecnológicas aún encuentran dificultades para diferenciar contenidos reales de materiales hiperrealistas generados por algoritmos.
Por ello, durante las presentaciones se remarcó que el análisis humano continúa siendo una pieza fundamental dentro del trabajo periodístico y de verificación de datos.
Las exposiciones coincidieron en que la tecnología puede acelerar procesos de monitoreo y análisis digital, pero no reemplaza el criterio periodístico ni la investigación humana.
Automatización y monitoreo digital
Las nuevas formas de monitoreo digital también ocuparon un espacio importante dentro de la Cumbre.
Durante las presentaciones se explicó cómo los sistemas automatizados permiten:
– detectar afirmaciones verificables
– agrupar narrativas repetidas
– priorizar contenidos según su impacto
– monitorear conversaciones en redes sociales y aplicaciones de mensajería.
El objetivo de estas herramientas es optimizar tiempos de reacción frente al enorme volumen de información que circula diariamente en internet.
Sin embargo, los especialistas remarcaron que la supervisión periodística sigue siendo necesaria para validar resultados y evitar errores de interpretación.
Algoritmos y polarización
El funcionamiento de los algoritmos y su influencia en la difusión de contenido engañoso fue otro de los temas que marcó la jornada.
Durante las exposiciones se explicó cómo muchas plataformas digitales priorizan publicaciones capaces de generar reacciones emocionales intensas entre los usuarios, ya que esto incrementa el tiempo de permanencia y las interacciones.
En consecuencia, mensajes asociados al miedo, la indignación o la polarización suelen obtener mayor alcance, independientemente de si la información es verdadera o falsa.
Los especialistas advirtieron que las plataformas digitales no necesariamente priorizan la información más verificada, sino aquella que genera más interacción.
Además, se señaló que este modelo favorece indirectamente la circulación de desinformación y dificulta los procesos de moderación, especialmente en contenidos difundidos en español.
Automatización y monitoreo digital
Más allá de las herramientas tecnológicas, las exposiciones también resaltaron la necesidad de fortalecer la alfabetización mediática y el pensamiento crítico.
Durante la jornada se destacó la importancia de impulsar procesos educativos que enseñen a estudiantes y docentes cómo identificar manipulación digital, comprender el funcionamiento de los algoritmos y verificar información en redes sociales.
Asimismo, se presentaron experiencias educativas donde la Alfabetización Mediática e Informacional (AMI) ya forma parte de programas orientados al desarrollo del pensamiento crítico y la validación de fuentes digitales.
Las iniciativas incluyen contenidos relacionados con validación de fuentes, comprensión de algoritmos y uso responsable de herramientas de inteligencia artificial.
Cierre de la cumbre y balance internacional
La segunda jornada concluyó con un balance positivo por parte del comité organizador, que destacó la participación de periodistas, verificadores, académicos y especialistas tecnológicos de distintos países.
Durante el cierre también se resaltó el crecimiento de iniciativas enfocadas en monitoreo digital, educación mediática y herramientas tecnológicas aplicadas al periodismo y la verificación de contenidos.
Los organizadores agradecieron la participación de proyectos internacionales y remarcaron la importancia de fortalecer redes de colaboración para enfrentar un entorno digital cada vez más complejo y automatizado.
Las sesiones finales dejaron una idea compartida entre los participantes: el desafío actual no consiste únicamente en desmentir información falsa, sino en comprender cómo funcionan las plataformas, los algoritmos y los sistemas automatizados que amplifican determinados contenidos dentro de la conversación pública.
La cumbre dejó en evidencia que el periodismo digital ya no solo enfrenta el reto de verificar información, sino también el desafío de comprender las tecnologías que moldean la conversación pública.
