Sólo un 24% de las empresas tecnológicas aprueban en Ética IA

Un estudio sobre 100 startups tecnológicas españolas revela que existe una brecha de Ética IA significativa, especialmente en Justicia e Igualdad, Supervisión Humana y Medio Ambiente

El 76% de las empresas tecnológicas en IA españolas se encuentran en situación de riesgo medio y alto en materia de Ética IA, según se desprende de una prospección elaborada sobre 100 startups de 30 sectores económicos diferentes y seleccionadas aleatoriamente entre los hubs tecnológicos de Barcelona, Madrid, y Valencia. 

El estudio, realizado mediante la herramienta de evaluación EthicalAITest de la firma Roboética Consultoría, ha evaluado los principios de Privacidad y Gobernanza, Seguridad y Robustez, Transparencia y Explicabilidad, Justicia e Inclusión, Supervisión Humana, y Sostenibilidad e Impacto Ambiental, analizando más de 600 instrucciones del código fuente de las empresas del sector. De los resultados obtenidos se puede extraer que aquellos principios IA Éticos que registran mejor desempeño entre las startups españolas son los de Transparencia y Explicabilidad (43.9% de promedio, el único principio que supera el 40%), y el de Privacidad y Gobernanza (31.5% de promedio, aunque con alta variabilidad); versus a aquellos con resultados más críticos como el de Justicia e Inclusión (12.0% de promedio, con un muy bajo cumplimiento), el de Sostenibilidad e Impacto Ambiental (5.7% de promedio, que resulta prácticamente inexistente), y el de Supervisión Humana (3.5% de promedio, que es el más crítico de todos). De lo que se deduce que la mayoría de startups no previenen los sesgos  para garantizar la inclusión de todas las personas en calidad de usuarios, en beneficio de un trato justo y equitativo frente a los sistemas de IA, ni implementan controles humanos adecuados que puedan evitar posibles riesgos potenciales, y que asimismo manifiestan una falta notable de conciencia ambiental en materia de desarrollo de IA.

A nivel sectorial, las empresas de los sectores Legal e Industria demuestran un claro liderazgo en Ética IA, mientras que el peor registro ha puntuado en el sector Viajes, acompañado de cerca en los últimos puestos del ranking por los sectores de RRHH, Inmobiliaria, Servicios, Ciberseguridad y Construcción. Si bien el estudio expone que los datos resultantes relativos en el apartado de sectores requieren de evaluaciones complementarias más amplias y representativas del ecosistema global de las startups españolas.

Según el Dr. Jesús A. Mármol, autor del estudio, “el análisis prospectivo revela que existe una brecha de Ética IA significativa, ya que ningún principio evaluado alcanza el umbral aceptable del 50%. Lo cual no es una buena noticia para los ciudadanos en calidad de usuarios de productos y servicios IA que consumimos habitualmente, ya sea a nivel personal o profesional, pues los datos evidencian que nuestros proveedores tecnológicos no nos garantizan a día de hoy un compromiso activo con la responsabilidad social y digital que les es exigible”.

El estudio finaliza en sus conclusiones sugiriendo acciones recomendables dentro del ecosistema de las startups tecnológicas españolas, tales como una  formación especializada en principios de IA Ética, desarrollo de guías específicas por sector, implementación de auditorías anuales obligatorias, y programas de certificación sectorial. “Comenzando -manifiesta Mármol- por introducir la materia de Ética IA en los programas formativos de las Facultades y Escuelas de Ingeniería, con el objetivo de que los estudiantes aprendan a  traducir en métricas cuantificables los principios de Ética IA, es decir a traducir conceptos éticos abstractos en criterios técnicos concretos que pueden evaluarse algorítmicamente, y con ello puedan integrar como competencia la alineación de empresas y productos IA con los valores humanos y los estándares éticos que requiere nuestra sociedad”.

Acceder al estudio: https://roboetica-consultoria.com/wp-content/uploads/2025/09/Prospeccion-IA-Etica-de-100-Startups-Tech-Espanolas-Septiembre-2025.pdf 

Acceder a EthicalAITest: www.ethicalaitest.online