How to resolve AdBlock issue? 
Aprender a afrontar lo inesperado: entrenar a la inteligencia artificial para gestionar la incertidumbre
Saber cuándo no se sabe algo hace que las personas actúen con cautela. La inteligencia artificial (IA) epistémica utiliza marcos matemáticos para incorporar la conciencia de la incertidumbre en el aprendizaje automático
Es un hecho ampliamente reconocido que la IA tiene aplicaciones en todos los aspectos de la vida humana. La IA de próxima generación, un motor económico que ya está revolucionando nuestros hogares, colegios y puestos de trabajo, deberá mejorar su capacidad para realizar predicciones en situaciones distintas a las de los datos con los que se ha entrenado. El equipo del proyecto E-pi(se abrirá en una nueva ventana), financiado con fondos europeos, ha desarrollado un paradigma de IA epistémica que permite afrontar mejor las incertidumbres.
Aprendizaje automático epistémico
La epistemología es el estudio filosófico del conocimiento. Esta definición implica la facultad de reconocer cuándo el conocimiento es insuficiente. Esa capacidad de tomar conciencia es una característica inherente a la inteligencia humana, pero en el caso de la IA, la capacidad de saber cuándo no se sabe algo debe ser construida mediante marcos teóricos y matemáticos.
«En el aprendizaje automático actual, el proceso de aprendizaje se centra más en explicar un conjunto de datos de entrenamiento relativamente pequeño que en el conjunto completo de datos que el mundo puede generar», explica el coordinador del proyecto, Fabio Cuzzolin. «Con los modelos tradicionales de IA aparecen dificultades para realizar predicciones fiables cuando las distribuciones de probabilidad que generan los datos difieren de las utilizadas durante el entrenamiento».
El consorcio de E-pi sostiene que la teoría de la incertidumbre de segundo orden(se abrirá en una nueva ventana) es el marco más prometedor para abordar los retos de la IA. Con el objetivo de desarrollar un ecosistema epistémico internacional de IA, las ponencias del proyecto en congresos especializados han tenido una acogida entusiasta y Cuzzolin ha sido seleccionado para participar en varias propuestas relacionadas con el programa Horizonte Europa.
Pruebas con vehículos autónomos
La validación en vehículos autónomos (VA)(se abrirá en una nueva ventana) resultó ser una prueba perfecta de la IA epistémica. Las condiciones de conducción pueden volverse impredecibles en cualquier momento debido a factores como el comportamiento de los peatones, las condiciones meteorológicas extremas o los trazados inusuales de las carreteras. Los errores que comete la IA actual pueden ser muy costosos y, en el peor de los casos, provocar lesiones mortales.
El proyecto utilizó el programa Conjunto de datos sobre la detección de incidentes en carretera para la conducción autónoma (ROAD)(se abrirá en una nueva ventana) para entrenar la IA y probar sus nuevos detectores de objetos epistémicos. Desarrollado por primera vez en 2022 y ampliado posteriormente, ROAD se compone de vídeos y conjuntos de datos creados en Europa, Norteamérica y, más recientemente, en Dubái y Abu Dabi, lo que lo convierte en un referente verdaderamente mundial.
Robótica y otras aplicaciones de la IA epistémica
Con la IA epistémica los vehículos autónomos serán más seguros, pero los coches autónomos no son la única aplicación de esta nueva tecnología. Los robots industriales y quirúrgicos, en los que la IA afronta la imprevisibilidad de los agentes humanos, se beneficiarán enormemente de una IA entrenada para gestionar la incertidumbre.
Otra de sus aplicaciones tiene que ver con la fusión nuclear. «Estamos trabajando en el desarrollo de modelos de operadores neuronales que tengan en cuenta la incertidumbre, con el fin de predecir cómo fluirá el plasma de fusión dentro de un tokamak(se abrirá en una nueva ventana) y qué zonas de los reactores se verán más afectadas por él», explica Cuzzolin.
El futuro del aprendizaje epistémico está por escribir. Cuzzolin prevé aplicaciones relacionadas con la teoría de la mente, la evolución a través del aprendizaje continuo y el desarrollo de una IA generativa epistémica. «Se sabe que los grandes modelos de lenguaje (LLM, por sus siglas en inglés) de última generación generan afirmaciones falsas», afirma Cuzzolin. «Los LLM epistémicos pueden mitigar de forma significativa el exceso de confianza de esos modelos».
El equipo del proyecto E-pi ha allanado el camino para unos vehículos autónomos y robots más seguros, una IA generativa sin alucinaciones y un ecosistema dinámico de expertos en aprendizaje automático. El potencial a largo plazo de la IA epistémica va camino de transformar el mundo en el que vivimos y nuestra forma de vivir.
Illustration of the concept of epistemic artificial intelligence. Epistemic AI’s notion of learning (right), as opposed to that of traditional machine learning/artificial intelligence (left).
