Retos del fact-checking y la lucha contra la desinformación: amenazas y oportunidades de la inteligencia artificial generativa

Publicamos un nuevo análisis sobre las tendencias que impactarán en el panorama mediático en España y Portugal durante el próximo quinquenio, un adelanto del informe del proyecto IBERIFIER que estamos recogiendo en esta serie especial para final de año: nos centramos en el área de fact-checking y desinformación.

Expertos entrevistados

• Clara Jimenez Cruz, CEO, Maldita
• Fernando Esteves, CEO/director, Polígrafo
• Luís António Santos, profesor auxiliar, director adjunto del Centro de Estudos de Comunicação e Sociedade, Universidade do Minho
• Marisa Torres da Silva, profesora asociada, Faculdade de Ciências Sociais e Humanas, Universidade Nova de Lisboa
• Sergio Hernandez, responsable, EFE Verifica

El crecimiento exponencial de la IA será la principal tendencia en este ámbito durante los próximos años, con implicaciones en términos de cantidad y complejidad de la desinformación, una mayor polarización política y el aumento de las amenazas a las democracias.

En cuanto a los retos, los medios tendrán que luchar más por captar las audiencias y tendrán que adoptar la IA. El periodismo necesita diferenciarse aún más del resto de contenidos e incrementar el rigor ético. La corresponsabilidad de las plataformas será fundamental, así como luchar contra la ruptura de la confianza en las instituciones y los riesgos que plantean las iniciativas de desinformación.

Las principales oportunidades se centran en el desarrollo de programas de alfabetización mediática eficaces y la regulación de las plataformas. Además, se desarrollará la verificación de hechos mediante herramientas basadas en la IA y una mayor integración de la verificación en los medios, con el refuerzo de buenas prácticas.

Tendencias e innovaciones

• Crecimiento exponencial en el uso de la IA, “tanto en la difusión de información errónea como en su detección y verificación”. (Sergio Hernández); “Es difícil imaginar Internet dentro de un año, y mucho menos dentro de cinco años”. (Clara Jiménez Cruz); “Existe una diferencia entre la producción de información y el periodismo; el primero se realizará en estructuras con pocos humanos; el segundo oscilará entre dimensiones gigantes y micro, especializándose en la producción de valor agregado para los suscriptores”. (Luís Antonio Santos)
• Mejora tecnológica y profesionalización de los productores de desinformación. “Nos enfrentaremos a una serie de potenciales y desafíos desconocidos. La verificación de la información navegará por estas aguas inexploradas”. (Luís Antonio Santos)
• Proliferación de herramientas de uso individual para producir texto, sonido, imagen, animación gráfica basada en la realidad y la ficción. “la brecha se ampliará en cuanto a la disponibilidad de recursos entre la producción de contenidos problemáticos y la capacidad (individual o colectiva) de detectarlos”. (Luís Antonio Santos)
• Aumento de la desinformación mediante vídeos y deepfakes. “La difusión de deepfakes cada vez más refinados y específicos, con intenciones marcadamente políticas, representa la mayor amenaza para la democracia”. (Fernando Esteves); “La desinformación en vídeo gana peso con el aumento de las redes sociales basadas en estos contenidos” (Sergio Hernández)
• Incremento de la polarización política y social. “Esto no es una buena noticia para el ecosistema mediático y la lucha contra la desinformación”. (Clara Jiménez Cruz)
• Mayores amenazas a la democracia debido al uso de la IA para crear desinformación y respuestas legislativas y regulatorias. “Veremos el refuerzo y la expansión de movimientos autoritarios y antidemocráticos, con ejércitos de propaganda digital bien entrenados”. (Marisa Torres da Silva). “Hay dudas sobre la eficacia del paquete legislativo europeo, los efectos de la postura menos intervencionista de Estados Unidos y temores sobre la postura más contundente (de restricción de las libertades individuales) adoptada por otros países relevantes, como India o China”. (Luís Antonio Santos)

Retos

• Los medios tendrán que luchar más para ganar audiencias. “La mayor velocidad y precisión en la difusión de desinformación puede contaminar a los medios. Quizás nos dirigimos hacia el info-apocalipsis, el momento en el que los ciudadanos comunes y corrientes ya no sean capaces de distinguir entre realidad y ficción”. (Fernando Esteves)
• “La IA ya está entrando en las redacciones para asumir tareas más tediosas; pero también tiene capacidades creativas que pueden suplantar algunos de los trabajos tradicionales”. (Clara Jiménez Cruz); “El desarrollo de procesos de automatización y el uso cada vez más extendido de la IA (por ejemplo, ChatGPT) plantean desafíos muy complejos a la verificación de la información y los ecosistemas de medios, a la perpetuación de la injusticia social y los sesgos discriminatorios”. (Marisa Torres da Silva)
• El periodismo necesita diferenciarse del resto de contenidos digitales. “El periodismo debe liberarse del tratamiento del ‘flujo informativo’ y buscar relevancia en la contextualización, en la investigación y promoción de temas más allá de la agenda diaria”. (Luís Antonio Santos).
• Necesidad de mayor rigor ético. “Serios obstáculos para resolver el problema son el uso de los grandes medios de comunicación para amplificar y difundir declaraciones falsas y teorías de conspiración, la devaluación de la cultura periodística profesional y la inserción en estructuras empresariales orientadas a la máxima rentabilidad” (Marisa Torres da Silva); “La velocidad del progreso es tal que urge reflexionar sobre los dilemas que genera la IA” (Sergio Hernández)
• Encontrar nuevas formas de financiación. “Las nuevas formas de publicidad ya están teniendo impacto en las redes sociales. Hace diez años no encontraríamos publicidad paga que no estuviera etiquetada como publicidad, porque había leyes que impedían que eso sucediera. En algunos medios de comunicación, más del 50% del contenido está patrocinado, pero no declarado, porque los medios compiten con los influencers por los anunciantes” (Clara Jiménez Cruz)
• Es necesario corresponsabilizar a las plataformas. “Será decisivo el compromiso de los reguladores para garantizar que las plataformas de difusión sean corresponsables de los contenidos y se comprometan a promover este tipo de mecanismos semiautomatizados”. (Luís Antonio Santos)
• Abuso de confianza en las instituciones. “Estos cambios tendrán un efecto en la confianza de las instituciones y la solidez de los regímenes políticos. El fin del acceso de la mayoría de la población a una producción de información plural, diversa y de calidad traerá daños, acentuará las fracturas, promoverá la inestabilidad y el miedo”. (Luís Antonio Santos)
• Crecen los riesgos de los ‘desórdenes de la información’ y la perpetuación de modelos de negocio que se benefician de los contenidos engañosos y que incitan al odio. “Si asumimos la necesidad de vivir con sistemas plurales, equilibrados y confiables, pueden surgir presiones excesivas desde una dimensión política, económica o religiosa”. (Luís Antonio Santos); “Las disrupciones introducidas por la digitalización seguirán teniendo impactos muy negativos en la producción, verificación y contextualización de la información, junto con la degradación de las condiciones laborales de los periodistas”. (Marisa Torres da Silva)

Oportunidades

• Desarrollar programas eficaces de alfabetización mediática. “Pueden tener un impacto en la mitigación de la desinformación. Es necesario educar a las personas para que tomen conciencia y desarrollen un pensamiento crítico, que las haga menos vulnerables”. (Sergio Hernández). “Necesitamos acciones de alfabetización mediática, con la inclusión obligatoria de este tipo de contenidos en los programas escolares”. (Fernando Esteves)
• Incremento del fact-checking. “Aumentarán los proyectos dedicados a verificar hechos y su interacción a través de proyectos de periodismo colaborativo, con el fin de ampliar sus operaciones”. (Fernando Esteves)
• Desarrollo de herramientas de verificación automática mediante IA. “Las soluciones de IA se desarrollarán con dos objetivos prioritarios: identificar la desinformación y eliminarla o limitar su alcance”. (Fernando Esteves). “La IA permitirá la verificación automática, mejorando los procesos de seguimiento, selección de contenidos y correspondencia con la investigación. Pero la capacidad de generar desinformación aumentará exponencialmente, más allá de los recursos de los verificadores”. (Sergio Hernández).
• Mayor integración de la verificación de hechos en el periodismo. “Hemos visto la tendencia con la guerra en Ucrania y aumentará a medida que las imágenes de IA crezcan exponencialmente. Esta integración será beneficiosa, pero no hará desaparecer a los verificadores independientes. La desinformación seguirá formando parte de la vida de las personas, y por eso existen los fact-checkers” (Clara Jiménez Cruz)
• Refuerzo de buenas prácticas periodísticas. “Será más relevante utilizar buenas prácticas periodísticas y de verificación: aumentar la transparencia de los procesos, proporcionar información adicional, permitir una fácil referencia cruzada de fuentes, asignar diferentes niveles de confiabilidad y facilitar la circulación de contenido verificado”. (Luís Antonio Santos).
• Regulación de los intermediarios digitales. “Espero que la sensibilización sobre el poder de los intermediarios en la gestión del discurso público tenga efecto e involucre a las partes interesadas en la mitigación y el debate sobre las estructuras de poder”. (Marisa Torres da Silva). “Habrá que reforzar la regulación de las plataformas, en cuanto a la transparencia de sus políticas de moderación de contenidos y la lucha contra la desinformación”. (Fernando Esteves)

Conclusión

Las principales tendencias en la verificación están relacionadas con el crecimiento exponencial de la IA, tanto en el lado positivo (mejores herramientas para crear información y verificar hechos) como en el negativo (potenciando la desinformación y su alcance). En las democracias surgirá una mayor polarización e inestabilidad política y social, siendo una de las posibles soluciones la promoción de la alfabetización. Los medios tendrán que ser más activos, rigurosos y éticos, con un periodismo diferenciado, pero también son nuevas formas de financiación, regulación y rendición de cuentas.

^{Nota: Las imágenes utilizadas en estos artículos del blog han sido generadas mediante herramientas de Inteligencia Artificial.}

El informe completo “Análisis de las tendencias e innovaciones en el ecosistema mediático de España y Portugal (2025-2030)” podrá descargarse en la web de IBERIFIER en enero de 2024.

^{IBERIFIER ha recibido financiación de la Comisión Europea en el marco del acuerdo CEF-TC-2020-2 (Observatorio Europeo de Medios Digitales) con referencia 2020-EU-IA-025.}