Hacia una verificación inteligente de la información en los interfaces de voz

La desmesurada proliferación de noticias adulteradas, tergiversadas o sencillamente falsas acerca de la evolución y gestión de la pandemia por la COVID-19 –«Estamos ante la peor ola de desinformación de la historia», advierte la directora adjunta de la Internacional Fact-Checking Network (IFCN)– ha generado una seria y justificada alarma con respecto a su creciente y demostrada influencia sobre una ciudadanía cada vez más expuesta a las comúnmente denominadas fake news.

El fenómeno de la ’infodemia’, ya reconocido por la Organización Mundial de la Salud (OMS), se ha amplificado estos días debido al incremento exponencial, generalizado y elocuente del consumo de información y entretenimiento a escala global propiciado por la cuarentena. Al margen de la desigual ponderación en las fuentes consultadas por los usuarios de cada país, en todos los casos se detecta un significativo crecimiento de los accesos desde dispositivos conectados, tanto los que se configuran en torno a pantallas (Smart TVs, smartphones, ordenadores, tabletas o videoconsolas) como aquellos cuya interacción se basa en interfaces de voz, sobre todo los altavoces inteligentes.

En realidad, el audio constituye el contenido digital cuya demanda ha crecido más en todo el mundo desde el inicio de este convulso 2020: según el estudio Digital Around The World, y frente al estancamiento del video online –que no obstante se mantiene como formato dominante con un 90% de penetración–, el consumo de música en streaming ha pasado del 70 al 72% entre enero y abril, el de radio en Internet del 47 al 48%, y el de podcasts del 41 al 42%. En España seis de cada diez internautas escuchan audio de forma estable a través de Internet en 2020; de ellos, el 68,5% lo hace a diario (un 3,7% más que en 2019), el 29% varias veces por semana y el 2,4% de manera ocasional, según el recién publicado Estudio de Audio Online 2020 de IAB Spain.

En cuanto a los Smart speakers, presentes ya en uno de cada cuatro hogares (24%) de Estados Unidos, la rapidez de su incursión en el mercado supera a la que en su día alcanzaron los móviles inteligentes y augura un futuro en el que la voz se convertirá en el cauce habitual de interacción con la tecnología y facilitará una nueva relación entre las personas y el ecosistema de medios y servicios digitales. Aunque las peticiones de canciones, la formulación de preguntas o las consultas sobre la predicción del tiempo suponen las principales demandas de los usuarios, se percibe un progresivo aumento de su uso para estar al día de las noticias, sobre todo ante coyunturas excepcionales.

El Smart Audio Report 2020 revela que, en el contexto de reclusión en los hogares y con decenas de millones de ciudadanos que estos días no se desplazan al trabajo, los altavoces inteligentes están ganando relevancia como vehículos de conexión con las noticias y la información: más de una tercera parte (35%) de los adultos y la mitad de los jóvenes de 18 a 34 años han buscado en ellos información sobre el coronavirus; en su conjunto, el porcentaje de propietarios que los utilizan para oír noticias ha pasado del 55 al 62% de la primavera de 2019 a la de 2020. En España, y como constató la Asociación para la Investigación de Medios de Comunicación (AIMC) en 2019, un 41,8% de los usuarios los emplea para conocer la actualidad, por encima incluso del 39,5% de la escucha de radio en directo (hábito también en aumento: el 6% del consumo digital de la Cadena SER, por ejemplo, ya se canaliza a través de estos equipos).

La especificidad de los asistentes de voz, programados para identificar y aprender de las necesidades y requerimientos de sus propietarios a fin de responder de forma cada vez más personalizada a sus demandas, brinda incuestionables ventajas en términos de simplicidad y eficiencia, pero también abre preocupantes riesgos en lo que al consumo de noticias se refiere. Así como la lectura de noticias en papel o en pantalla permite a cada usuario establecer un ritmo propio para su asimilación y hasta un ocasional retorno a frases no comprendidas, y así como la información televisiva se apoya en narrativas visuales y sonoras capaces de complementarse de modo recíproco, el audio interpela únicamente al oído; inevitablemente, la facilidad e inmediatez de su percepción con este sentido conlleva la contingencia de una atención menos consciente y, por tanto, más permeable a la manipulación.

Este riesgo se acentúa al combinarse con los sistemas de recomendación, que cada vez determinan con mayor incidencia el contenido recibido por los usuarios: mediante técnicas de filtrado con Inteligencia Artificial, seleccionan las noticias que podrían interesar más a cada sujeto según el interés, la novedad o la relevancia asociada a su perfil y a su rastro de consumo en la Red. Del mismo modo que en las plataformas de música o de vídeo bajo demanda, esta tecnología se impone como un nuevo paradigma de búsqueda: son los productos digitales los que ‘encuentran’ al usuario, y semejante delegación tiende a diluir la capacidad crítica del individuo en la conformación de su propio menú y a que acepte sin cuestionarse las propuestas que los algoritmos deciden en su nombre, sobre todo en dispositivos que solo se escuchan (y no siempre de manera atenta). De hecho, y como constató en 2018 el Reuters Institute en el informe The Future of Voice and the Implications for News, en los altavoces inteligentes se suscita un problema de atribución, ya que casi una cuarta parte de los usuarios en el Reino Unido no recordaba la marca o el medio que le facilitaba las noticias.

¿Qué escenario se dibuja ante la progresiva normalización de esta práctica? La combinación de automatización e Inteligencia Artificial sintetiza la utilidad del asistente virtual Google Assistant incorporado desde noviembre de 2019 a sus equipos con interfaces de voz. Mediante la orden Hey Google, play me the news (‘Google, dame las noticias’), enumera los titulares y los eventos más destacados en cada instante tomando como base, por un lado, la herramienta Your News Update, que se nutre de las noticias de una variedad de sitios y medios de comunicación (en Estados Unidos, The Washington Post, Billboard o The New York Times, entre otros), y por otro, el historial de navegación, la ubicación y los intereses del usuario; incluso podía tener en cuenta sus conversaciones, si bien en agosto de 2019 Amazon, Apple y Google cancelaron o facilitaron que se anulase una escucha sobre la cual resulta posible generar patrones de identificación y recomendación (aunque estudios posteriores delatan que todos los modelos continúan escuchando “accidentalmente” nuestras charlas domésticas…).

Las potenciales fragilidades de esta funcionalidad se vislumbran a partir de las experiencias ya conocidas en los terminales Android con Google Discover –antes Google Now y Google Feed–, un servicio de resumen y difusión de noticias que elige y proporciona al usuario los contenidos que su algoritmo de selección interpreta que son relevantes. ¿Cómo? Tomando en cuenta las búsquedas en Internet, la actividad a la que Google tiene acceso (correos electrónicos, apps, sesiones en Skype…), el historial de ubicaciones, la información de los dispositivos… Se trata de rastreos sobre los hábitos del sujeto, pero en ningún caso se refuerzan con filtros para garantizar la veracidad de las fuentes o las exigencias sobre las que se construyen profesionalmente las noticias. ¿Y cuáles son las consecuencias? Como en su día ya se advirtió en diferentes medios, la aplicación ha llegado a promocionar sitios web comúnmente identificados como creadores o propagadores de noticias falsas.

Según demostró el digital eldiario.es, «algunas webs beneficiadas son Mediterráneo Digital o Diario Gol, señaladas habitualmente por los expertos como los ejemplos españoles más claros de fake news y desinformación». De acuerdo con El Confidencial, «el motivo de que Discover siga recomendando contenidos de Diario Gol y otros sitios cuyo modelo de negocio es conseguir que la gente pinche en sus enlaces se debe al Ratio de Cliqueo (CTR): aunque Google se sigue negando a desvelar los detalles sobre las características del algoritmo de Discover, su fórmula dota de gran peso al porcentaje de usuarios que clican una pieza cuando se les muestra, priorizando este parámetro por encima de los que evalúan la relevancia o exactitud del contenido».

Así pues, no parece alarmista intuir que la incorporación de sistemas de recomendación personalizada de noticias a los altavoces inteligentes y otros dispositivos dirigidos con la voz podría derivar en la configuración de menús informativos mediatizados por algoritmos de selección subjetiva –los hábitos e intereses comerciales del usuario o las conductas de otros sujetos categorizados como tales–, y no por los criterios básicos del Periodismo radiofónico, que entre otros atributos imponen la precisión, la neutralidad, la equidad y el contexto en las piezas informativas sonoras.

La acuciante amenaza que en tiempos de incertidumbre y pandemia representa la desinformación a través de redes sociales o plataformas de mensajería ha de atender también a los sistemas de difusión de noticias a través de estos interfaces, para los que se deben diseñar y estandarizar sistemas de verificación capaces de combatir la tergiversación y la manipulación informativa mediante Inteligencia Artificial. Solo así se podrán evitar los preocupantes fenómenos de persuasión masiva en beneficio de quienes instrumentalizan la innovación tecnológica para modelar las opiniones y las decisiones de los ciudadanos.