Hacer frente a los retos de la desinformación en línea

El contenido ultrafalso, el sesgo de los algoritmos: cada vez da más la impresión de que la desinformación en línea está por todas partes. ¿Qué se puede hacer ante ello?

Los contenidos pueden dar lugar a delitos de odio y otros tipos de violencia, pero muchas autoridades policiales europeas no tienen acceso a herramientas o tecnologías especializadas que les ayuden a atajar el problema: ¿cómo se les puede ayudar?

Como usuarios, ¿cómo podemos saber si estamos siendo manipulados? Cada vez estamos más expuestos a la (des)información en línea, ya sea de forma pasiva, a través de los contenidos de las redes sociales, o de forma activa, al usar buscadores y sitios web específicos que nos encaminan hacia páginas que refuerzan nuestros sesgos y levantan muros de prejuicio.

Las empresas trabajan para identificar y eliminar sitios web de noticias falsas y reducir la difusión de desinformación en redes sociales. Pero ¿qué pasa con los buscadores? ¿Podrían los rastreadores web ofrecer una forma innovadora de ayudarnos a auditar su actividad?

La difusión de desinformación en línea amenaza nuestros valores democráticos. A medida que aumenta la cantidad de desinformación, la inteligencia artificial (IA), y en concreto las tecnologías lingüísticas, tienen un papel importante a la hora de detectarla. El aprendizaje automático y la IA se basan en modelos lingüísticos de gran tamaño, pero ¿qué pasa con los idiomas que tienen menor presencia en internet, es decir, aquellos que se usan con menos frecuencia? ¿Cómo se puede mejorar la IA para luchar contra la desinformación en los llamados «idiomas con pocos recursos»?

Continúe escuchando para conocer cómo se están abordando estas y otras ciberamenazas con la ayuda de la financiación para investigación de la Unión Europea.

Owen Conlan(se abrirá en una nueva ventana), es miembro del Trinity College(se abrirá en una nueva ventana), en Dublín, y catedrático en la Facultad de Informática y Estadística(se abrirá en una nueva ventana). También es el codirector del Centro de Humanidades Digitales del Trinity College(se abrirá en una nueva ventana). Owen está muy interesado en el control que los usuarios pueden ejercer sobre los sistemas personalizados basados en IA, un tema que investigó a través del proyecto VIGILANT.

Joana Gonçalves-Sá(se abrirá en una nueva ventana) es investigadora en el Laboratorio Nova de Informática y Ciencias de la Computación(se abrirá en una nueva ventana) y en el Laboratorio de Instrumentación y Física Experimental de Partículas(se abrirá en una nueva ventana), en Lisboa, donde dirige el grupo de investigación sobre Física Social y Complejidad. Su trabajo se centra en los sesgos humanos y algorítmicos, utilizando las noticias falsas como sistema modelo, tema de su proyecto FARE_AUDIT.

Marián Šimko(se abrirá en una nueva ventana) es investigador sénior en el Instituto Kempelen de Tecnologías Inteligentes(se abrirá en una nueva ventana) de Eslovaquia. Su investigación se centra en el procesamiento del lenguaje natural, la extracción de información, el procesamiento de idiomas con pocos recursos y la interpretabilidad de modelos neuronales. En el proyecto DisAI abordó el desarrollo de nuevos métodos de procesamiento lingüístico, con el objetivo de mejorar el rendimiento de los grandes modelos de aprendizaje automático para idiomas que se utilizan con menor frecuencia.

Imagen: INCIBE