Plataforma médica de alerta temprana de nueva generación

NEAMP nace con el objetivo de aprovechar el potencial de la inteligencia artificial para ayudar a los profesionales sanitarios a identificar de forma precoz eventos que puedan comprometer la evolución de los pacientes.

La plataforma integrará nuevas fuentes de datos clínicos mediante procesos avanzados de extracción, transformación y normalización. Mediante técnicas de procesamiento del lenguaje natural (PLN) se analizará información contenida en historias clínicas y desarrollará modelos predictivos capaces de procesar grandes volúmenes de datos y generar alertas tempranas que ayuden a anticipar posibles complicaciones.

La detección precoz de situaciones de riesgo de pacientes, constituye uno de los principales retos de los sistemas sanitarios. Una identificación más rápida puede contribuir a mejorar los resultados clínicos, optimizar los recursos asistenciales y reforzar la seguridad del paciente. En este contexto, NEAMP busca poner la innovación tecnológica al servicio de una atención sanitaria más eficiente, personalizada y basada en la evidencia.

Por su complejidad tecnológica y científica, NEAMP se configura como un proyecto de desarrollo experimental que combina nuevas arquitecturas de inteligencia artificial, algoritmos avanzados, integración de fuentes heterogéneas de información y escenarios clínicos innovadores. La plataforma será validada en casos de uso de alto impacto clínico, como la sepsis neonatal, pediátrica y adulta, el deterioro clínico inesperado y la neumonía.

El proyecto se apoya en la amplia experiencia del IIC en inteligencia artificial, aprendizaje automático, minería de datos y procesamiento del lenguaje natural. Además cuentan con seis entidades complementarias: 3 hospitales, un instituto de investigación y una consultora médica.

Sumado al desarrollo tecnológico, NEAMP contribuirá a fomentar una adopción responsable de la IA en salud, generando conocimiento y evidencia sobre su aplicación práctica en entornos clínicos reales y favoreciendo la transferencia de resultados al sistema sanitario.

Proyecto financiado por Red.es

NEAMP forma parte de las iniciativas que impulsan la aplicación de la inteligencia artificial para dar respuesta a retos estratégicos del sector sanitario. Gracias al apoyo de Red.es, el proyecto permitirá avanzar en el desarrollo y validación de nuevas tecnologías capaces de mejorar los procesos de detección temprana y apoyo a la decisión clínica.

Este proyecto ha sido financiado por el Ministerio para la Transformación Digital y de la Función Pública a través de Red.es, en el marco de la Convocatoria de ayudas destinadas a la realización de proyectos de desarrollo experimental que impulsen la adopción de la inteligencia artificial en el ámbito de la salud (RedIA Salud), cofinanciada por el Fondo Europeo de Desarr ollo Regional (FEDER).

La entrada Red.es impulsa NEAMP, una plataforma de IA para predecir multipatologías se publicó primero en IIC.

La alternativa es ejecutar en servidores propios un modelo abierto (open-source) de tamaño similar, como las versiones grandes de Qwen, Llama o DeepSeek. Pero estos modelos abiertos necesitan GPU de gama alta, con un coste de hardware considerable.

¿Es posible obtener resultados de calidad con modelos de lenguaje más pequeños, que requieran menos recursos para ejecutarse y puedan adaptarse a las necesidades de cada tarea? Esta es la pregunta que impulsa distAIllery: un proyecto que explora nuevas estrategias para entrenar modelos de lenguaje compactos y mejorar su eficiencia sin renunciar a una calidad adecuada.

Resultados de calidad con modelos del lenguaje pequeños

distAIllery propone un método en el que un modelo de lenguaje grande actúa como profesor y genera resúmenes de calidad. A partir de esos resúmenes se entrenan los “alumnos”, que son los modelos pequeños.

 distAIllery combina técnicas de generación de datos sintéticos y fine-tuning supervisado, junto con un diseño experimental que tiene en cuenta las restricciones computacionales y permite evaluar tanto la calidad de los resultados como los recursos necesarios para obtenerlos. El objetivo es estudiar hasta qué punto esta combinación permite desarrollar modelos pequeños útiles para tareas específicas.

Como primer caso de uso, distAIllery se centra en el resumen automático de textos en español. Para ello:

• se parte de corpus existentes
• se generan nuevos resúmenes mediante un modelo de lenguaje de mayor capacidad
• se utilizan estos datos para entrenar modelos más pequeños.
• se evalúan los resultados obtenidos
• se comparan sus requisitos computacionales y costes con los de recurrir a un modelo comercial como GPT-4.1, incluida la posibilidad de ejecutar los modelos en CPU.

Este primer experimento permite explorar tres cuestiones:

• qué calidad pueden alcanzar los modelos pequeños
• en qué condiciones puede compensar entrenarlos frente a utilizar una API comercial y
• si es posible ejecutarmodelos de lenguaje pequeños sin hardware especializado.

Los experimentos ofrecen una primera respuesta. En noticias en español, casi todos los modelos pequeños obtienen notas muy próximas a las de GPT-4.1, incluso sin entrenamiento adicional.

El fine-tuning solo marca la diferencia en casos concretos, como el modelo más pequeño (Qwen3.5-0.8B) con textos jurídicos. En una GPU de consumo de 24 GB, resumir con estos modelos cuesta, en general, menos que usar la API de GPT-4.1. Además de que los datos no salen de la organización. En CPU, solo el modelo más pequeño se pudo ejecutar y únicamente resulta más barato en algunos casos.

Cómo se entrenaron los modelos pequeños

El punto de partida fueron tres corpus de HuggingFace ([LR-Sum], [sumstew] y [EUR-Lex-Sum]), que contienen textos y sus correspondientes resúmenes de referencia. Los dos primeros proceden del ámbito periodístico, mientras que el tercero reúne textos jurídicos.

Inicialmente, se planteó utilizar estos resúmenes como referencia para entrenar y evaluar los modelos de lenguaje pequeños. Sin embargo, durante la inspección manual de los datos, se detectaron problemas en una parte de las referencias, ya que no siempre presentaban la calidad ni el tipo de síntesis necesarios para utilizarlas directamente como objetivo de entrenamiento.

En los conjuntos de noticias, algunas referencias se parecían más a titulares o fragmentos informativos que a resúmenes del documento completo. En lugar de sintetizar las ideas principales del documento completo, algunas referencias se centraban únicamente en un hecho concreto o en una cita. Entrenar directamente con estos datos podía llevar a los modelos a reproducir ese patrón, priorizando información puntual en lugar de ofrecer una visión global del texto.

Algunos ejemplos muestran claramente el problema. En ciertos casos, la referencia era prácticamente una transcripción de lo que había contado un testigo:

«Iba andando y he empezado a oír golpes y gente corriendo. He visto gente por los aires y mucho polvo. Yo he entrado en un portal y he subido las escaleras huyendo.»

En otros, la referencia se centraba en una información concreta, sin que necesariamente quedaran representadas las ideas principales del documento original:

«El Departamento del Tesoro dice que Suiza y Vietnam manipulan sus monedas para obtener ventajas comerciales injustas. La administración de Joe Biden decidirá si mantiene esas designaciones.»

Estos casos pusieron de manifiesto una limitación importante de los datos de partida: disponer de un texto y de un resumen asociado no garantiza que este último sea una buena referencia para entrenar un modelo de resumen automático. Por ello, fue necesario plantearse cómo obtener referencias más adecuadas para la tarea.

Entrenar los modelos pequeños con resúmenes de calidad insuficiente

La idea clave de distAIllery

Se decidió cambiar el enfoque del proyecto. En lugar de entrenar los modelos pequeños con resúmenes de calidad insuficiente, se usa primero un modelo grande como modelo profesor: GPT-4.1.

1. El profesor resume. GPT-4.1 recibe cada texto original y una instrucción con los criterios del resumen. Con esta información, genera un resumen nuevo.
2. Se crea un corpus nuevo. Los resúmenes del profesor forman un corpus sintético que sirve de referencia.
3. Los alumnos aprenden. Los modelos pequeños, o modelos alumno, se entrenan con este corpus mediante fine-tuning.

El objetivo es que los alumnos generen resúmenes de calidad, pero con un coste de ejecución potencialmente menor. Conviene aclarar que GPT-4.1 no se reentrena en ningún momento, solo se usa para generar los datos. El ajuste (supervised fine-tuning) se aplica únicamente a los modelos pequeños. El proceso, por tanto, combina la generación de datos sintéticos mediante un modelo profesor con la destilación de ese conocimiento hacia los alumnos a través de estos ejemplos.

Para estudiar cómo influye la longitud del resumen en los resultados, cada texto de los corpus de noticias se resumió en tres longitudes:

• Large: aproximadamente la mitad de la longitud del texto original.
• Medium: entre 60 y 100 palabras.
• Short: entre 40 y 60 palabras.

En el caso de EUR-Lex-Sum, los documentos jurídicos son considerablemente más largos y sus resúmenes de referencia originales más extensos. Por ello, en lugar de aplicar los tres niveles anteriores, se trabajó con una única longitud de alrededor de 500 palabras, más adecuada para este tipo de documentos.

De esta forma, los corpus de noticias permiten estudiar cómo afecta la longitud del resumen a la calidad de los resultados, mientras que EUR-Lex-Sum se utiliza como un caso específico de síntesis de documentos jurídicos extensos y especializados.

A partir de estos datos, se entrenaron cuatro modelos compactos: dos de la familia Qwen (Qwen3.5-4B y Qwen3.5-0.8B) y dos de la familia Gemma de Google (gemma-4-E2B-it y gemma-4-E4B-it). Su menor tamaño permite explorar hasta qué punto es posible obtener resultados útiles para esta tarea con modelos que requieren menos recursos computacionales que los grandes modelos comerciales.

https://huggingface.co/Qwen/Qwen3.5-4B  |  https://huggingface.co/Qwen/Qwen3.5-0.8B

https://huggingface.co/google/gemma-4-E2B-it  |  https://huggingface.co/google/gemma-4-E4B-it

Para evaluar su rendimiento, cada corpus se dividió en dos particiones, una para entrenar los modelos y otra, reservada para evaluarlos. Los resultados que se muestran a continuación  se calculan sobre los textos del conjunto de test, que los modelos no han visto durante el entrenamiento.

Cómo se evaluó la calidad de los resúmenes

Una vez entrenados los modelos pequeños, se generaron resúmenes a partir de los textos del conjunto de test.

Para evaluar su calidad, se utilizó un ensemble de tres modelos jueces de tres familias distintas: Qwen3.6-35B-A3B de Alibaba, Granite-4.1-30B de IBM y Gemma-4-26B-A4B-it de Google. Cada juez recibe el texto original, el resumen generado y un resumen de referencia producido por GPT-4.1, y asigna una puntuación de 1 a 5 siguiendo una rúbrica que considera la fidelidad al documento original, la cobertura de la información relevante, la coherencia y la completitud.

La puntuación final es la media de las valoraciones de los tres jueces. Utilizar modelos de familias diferentes busca reducir la dependencia de un único evaluador y limitar posibles sesgos hacia las respuestas de una familia concreta.

Además de este sistema de evaluación, una lingüista valoró manualmente una muestra de 30 textos. Sus puntuaciones se compararon con las de los tres jueces y se observaron correlaciones altas, lo que respalda el uso de esta evaluación automatizada, aunque no elimine por completo la posibilidad de discrepancias con el criterio humano.

De este modo, la evaluación no se limita a medir la similitud con los resúmenes de GPT-4.1, sino que también considera si los resultados son fieles al documento original y si recogen su información relevante.

¿Compensa entrenar un modelo de lenguaje pequeño?

La primera pregunta es cuánto aporta el fine-tuning cuando los modelos de partida ya tienen buenas capacidades de generación. ¿Permite mejorar sustancialmente sus resúmenes o basta con utilizar los modelos base tal como vienen?

En los dos primeros conjuntos de datos (noticias) aparece un efecto techo. Salvo Qwen3.5-0.8B, tanto los originales como los ajustados, obtienen puntuaciones muy próximas al máximo de la escala. En estas condiciones, el margen de mejora es limitado.

La situación cambia en EUR-Lex-Sum, el conjunto de documentos jurídicos. Qwen3.5-0.8B, el modelo más pequeño evaluado, mejora de forma notable tras el ajuste. En los demás modelos, las diferencias entre las versiones originales y las entrenadas son pequeñas, inexistentes o incluso favorables a la versión original, como sucede con Gemma-E2B.

Los resultados muestran que el efecto del fine-tuning depende del modelo y del tipo de documento. No se observa una relación simple según la cual los modelos más pequeños mejoren siempre más al entrenarse. En este experimento, el ajuste aporta poco cuando el modelo base ya resuelve bien la tarea, pero puede ser útil cuando parte de un rendimiento inferior, como ocurre con Qwen3.5-0.8B en los textos jurídicos.

¿Cuál es el coste de resumir con un modelo propio frente a GPT-4.1?

Además de la calidad, una de las motivaciones para utilizar modelos pequeños es reducir el coste de ejecución. Una vez entrenados, pueden desplegarse en infraestructura propia y generar resúmenes sin pagar una llamada a una API por cada texto.

Para estimar esta diferencia, se calculó el coste de generar los resúmenes del conjunto de test con cada modelo y se comparó con el coste de realizar la misma tarea mediante la API de GPT-4.1. Esta comparación permite estudiar el coste de ejecución de ambas alternativas en los escenarios evaluados.

En una GPU de 24 GB de memoria, los modelos pequeños resultan, en general, más baratos que utilizar la API de GPT-4.1. Hay una excepción importante: los modelos Gemma no pueden ejecutarse con los documentos jurídicos de EUR-Lex-Sum en esa configuración, porque la memoria disponible es insuficiente.

Al utilizar una GPU A100 con más memoria, los modelos Gemma sí pueden procesar esos documentos, pero su coste de ejecución resulta superior al de la API de GPT-4.1 en ese escenario.

Estos resultados muestran que el ahorro depende tanto del modelo como de la longitud de los documentos y del hardware disponible. Un modelo pequeño no es necesariamente la opción más barata en cualquier circunstancia, y su tamaño por sí solo no garantiza que pueda ejecutarse en una GPU de consumo.

¿Es viable ejecutar los modelos en CPU?

Por último, se exploró si era posible prescindir de una GPU dedicada. En las pruebas realizadas, solo el modelo más pequeño, Qwen3.5-0.8B, se evaluó con éxito en una instancia de CPU sin GPU, la c7i.2xlarge.

Los resultados muestran que esta alternativa solo resulta competitiva frente a GPT-4.1 en algunos escenarios. La CPU tarda considerablemente más en procesar los textos y generar los resúmenes, lo que aumenta el coste de ejecución cuando se calcula a partir del tiempo de uso de la máquina.

En EUR-Lex-Sum, la longitud de los documentos hace que procesarlos en CPU resulte especialmente costoso. En los resúmenes cortos de noticias ocurre algo diferente: el precio de la API de GPT-4.1 es muy bajo porque se generan pocos tokens, mientras que el modelo local sigue teniendo que procesar el texto de entrada. En estos casos, el ahorro desaparece.

Por tanto, prescindir de una GPU puede ser viable para determinadas tareas, pero no garantiza una reducción de costes. La longitud de los documentos, el tiempo de procesamiento y el precio de la alternativa comercial son factores determinantes.

Conclusiones: ¿compensa usar un modelo de lenguaje pequeño?

El principal hallazgo de distAIllery es que los modelos de lenguaje pequeños disponibles a principios de 2026 pueden resumir textos de noticias en español con resultados muy próximos a los de modelos como GPT-4.1.

En este conjunto de datos, los modelos base alcanzan puntuaciones prácticamente iguales al modelo profesor sin necesidad de ningún entrenamiento adicional.

Esto tiene una consecuencia práctica muy importante: para muchas tareas de resumen, basta con elegir bien el modelo pequeño y utilizarlo directamente, sin invertir en generar datos sintéticos ni ajustarlo. El fine-tuning queda para casos concretos en los que sí marca la diferencia como ocurre con Qwen3.5-0.8B en EUR-Lex-Sum.

La segunda conclusión es que ejecutar estos modelos en infraestructura propia reduce considerablemente el coste frente a la API de GPT-4.1, con la ventaja añadida de que los datos no salen de la organización.

El ahorro real depende del modelo, del hardware y de la longitud de los documentos. Con textos jurídicos largos, algunos modelos pueden superar la memoria disponible en una GPU de consumo, mientras que la ejecución en CPU puede resultar demasiado lenta. Por eso, antes de tomar una decisión, conviene evaluar cada modelo con documentos representativos y en el hardware previsto para su despliegue.

En resumen, un modelo de lenguaje pequeño puede ser una alternativa real a un gran modelo comercial, siempre que la decisión se tome evaluando conjuntamente calidad, coste y requisitos de ejecución. En este experimento se ofrece un método para hacer esta evaluación y determinar cuándo compensa cada opción.

Estos resultados corresponden específicamente al resumen automático en español. En otras tareas, sobre todo en aquellas donde los modelos base parten de un nivel más bajo, la estrategia de distAIllery de generar datos con un modelo profesor y ajustar modelos alumno podría aportar mejoras considerables. Explorar estos casos sería el siguiente paso natural del proyecto.

Post escrito por: Rodrigo González | Científico de datos en el IIC.

La entrada Modelos de lenguaje pequeños para grandes retos: distAIllery se publicó primero en IIC.

Esta renovación nos permite comunicar mejor nuestro propósito: crear y potenciar la inteligencia que acelera el progreso, conectando investigación, innovación y tecnología para ayudar a las organizaciones y a la sociedad a superar desafíos complejos.

La nueva web pone en valor aquello que nos diferencia: más de 35 años de experiencia, independencia, vocación investigadora y criterio experto, junto con nuestra capacidad para desarrollar productos de inteligencia artificial con aplicación real.

Un espacio más visual y accesible, pensado para mostrar nuestras capacidades y dar a conocer nuestra manera de trabajar: de la investigación a la innovación, y de la innovación al impacto real.

Una evolución de nuestra identidad

Desde nuestro primer logotipo en 1989, la imagen del IIC ha ido evolucionando junto a la organización y a la propia tecnología, pero conservando en el diseño las reconocibles siglas IIC.

Este cambio pretende hacer evolucionar la marca IIC y actualizar la forma en la que queremos presentarnos hoy. Una evolución que simplifica las formas, refuerza la legibilidad y facilita su aplicación en entornos digitales y corporativos.

Tecnología, investigación e innovación

Uno de los cambios más visibles es la nueva gama cromática. El uso del azul no es nuevo ya que se venía usando como color secundario. Ahora, el azul se convierte en el protagonista, acompañado de un tono más luminoso que aporta dinamismo y frescura.

Una combinación que busca transmitir algunos de los conceptos que forman parte de nuestra identidad: tecnología, investigación, conocimiento, confianza, rigor e innovación.

El resultado es una imagen más actual, tecnológica y reconocible, preparada para convivir en nuestra web, redes sociales, productos, presentaciones y diferentes soportes de comunicación.

Una nueva forma de conocernos

Nuestra nueva identidad también llega a nuestra web, renovada para mostrar de forma más clara, visual  todo lo que hacemos y lo que aportamos a organizaciones e instituciones.  Desde el desarrollo de agentes inteligentes, modelos de lenguaje (LLM), soluciones de machine learning, gobernanza y soberanía tecnológica, esta nueva web refleja lo que somos y cómo trabajamos:  investigación, innovación, tecnología, conocimiento especializado y criterio experto.

Una nueva imagen para seguir avanzando

La nueva identidad visual y la renovación de nuestra web, pretende expresar la evolución del IIC, manteniendo el compromiso con la investigación, la innovación y el desarrollo de IA con criterio experto, poniendo en valor una visión rigurosa, práctica y responsable de la tecnología. Esto también se refleja en el cambio de dominio web,  ya que pasamos de www.iic.uam.es para ser www.iiconocimiento.com. Este cambio responde a una decisión estratégica que nos permitirá construir una identidad digital propia.

Una nueva etapa para seguir conectando conocimiento, tecnología y personas, con un mismo propósito: transformar la inteligencia en progreso y generar un impacto real en las organizaciones y en la sociedad.

La entrada Una nueva web, una visión renovada se publicó primero en IIC.

La jornada celebrada el 7 de octubre en Madrid, reunió a profesionales del ámbito empresarial, universitario y de la Administración Pública para para abordar uno de los grandes desafíos de la gestión de personas: cómo aprovechar mejor los datos, la tecnología y el conocimiento experto para tomar decisiones de talento informadas, objetivas y que permitan anticiparse.

Durante el encuentro se trataron temas como la preparación de las organizaciones para incorporar la IA, la importancia de los datos y de su calidad en los procesos de talento, así como la necesidad de evaluar nuevas competencias relacionadas con la inteligencia artificial.

People Intelligence: del dato a una mejor decisión

Beatriz Lucía Martínez, Directora de Talent en el IIC, habló de cómo preparar a las organizaciones para la era de la IA, combinando analítica, conocimiento de las personas y una adopción responsable de la tecnología.

Este cambio lo debe liderar la función de RR. HH.:

• IA Readiness: conocer las capacidades y habilidades clave de la organización para afrontar la adopción de la IA.
• Movilizadores del cambio: identificar quién influye, conecta y facilita la transformación más allá del organigrama.
• Liderazgo que genera impacto: comprender qué estilos de liderazgo funcionan y cómo evoluciona la cultura.
• Adopción inteligente de la IA: medir el uso real de agentes y soluciones de IA, detectar fricciones y valorar su aportación.
• Nuevo alto desempeño: redefinir qué significa un rendimiento excelente en entornos híbridos en los que personas e IA trabajan conjuntamente.

Todo ello, inevitablemente unido a resolver los desafíos que actualmente están sobre la mesa: la ética, la privacidad, la gobernanza, la explicabilidad de los modelos y la necesidad de contar con equipos multidisciplinares.

En definitiva, el reto no es incorporar inteligencia artificial, sino crear las capacidades, el liderazgo y la cultura necesarias para convertirla en productividad, innovación y valor para la organización. 

Decisiones de talento construidas sobre datos de calidad

Tomar mejores decisiones sobre talento no depende solo de disponer de más datos, sino de contar con información rigurosa, modelos sólidos y criterio experto. Víctor Herrero Martín, Talent Acquisition Manager en BBVA, plantea un paralelismo muy visual: los datos son los ingredientes, el modelo es la receta y el criterio profesional es lo que permite interpretar correctamente el resultado y decidir mejor.

En BBVA han pasado de la calidad de la materia prima al impacto real en las decisiones de talento, utilizando además la IA como herramienta en este proceso:

• Datos de calidad como punto de partida: si los datos son sesgados, incompletos o poco fiables, las decisiones de talento también se verán comprometidas.
• Decidir, asesorar y anticipar mejor: el dato aporta valor en distintos horizontes, desde hacer una selección más objetiva hasta detectar patrones que ayuden a anticipar qué perfiles tienen un mayor encaje.
• Evaluación más completa del talento: BBVA combina variables como razonamiento, inteligencia emocional, competencias y motivaciones para obtener una visión más completa del candidato.
• IA para apoyar el criterio experto: herramientas como eValue Architect permiten ajustar la ponderación de variables según el puesto, mientras que la Calculadora eValue integra resultados, genera rankings y detecta posibles riesgos en competencias críticas.
• Aprendizaje y mejora continua: cada evaluación alimenta un repositorio de conocimiento que permite que el modelo aprenda y que las siguientes decisiones sean cada vez más precisas y consistentes. 

Competencia en IA: formar para usarla con criterio

La incorporación de la inteligencia artificial al ámbito educativo exige ir más allá del simple uso de herramientas. Juan José Rodríguez Martín, PhD, Vicerrector de Innovación, Calidad y Acreditaciones en Fundación Universidad Europea plantea un marco de actuación para desarrollar y evaluar la competencia en IA.

Utilizar la IA de manera segura, ética y responsable para:

• la búsqueda, la gestión y el análisis de datos;
• La comunicación y colaboración en entornos mediados por la IA;
• la solución de problemas;
• la creación de contenidos y el desarrollo de IA.

Algunos temas a tener en cuenta para el desarrollo y evaluación de la competencia IA:

• Aprender con y sobre IA: distinguir entre situaciones en las que no debe utilizarse IA, aquellas en las que sirve como recurso y aquellas en las que debe evaluarse directamente la competencia para utilizarla.
• Uso responsable y crítico: saber utilizar estas tecnologías de forma segura, ética y responsable, valorando también sus riesgos, limitaciones e impacto.
• Una competencia multidimensional: gestionar información, comunicarse y colaborar con IA, resolver problemas, crear contenidos y, en los niveles más avanzados, desarrollar sistemas de inteligencia artificial.
• Diferentes niveles de dominio: desde el usuario principiante al usuario autónomo, el experto y el creador de IA, adaptando el aprendizaje a distintos perfiles y necesidades.
• Integrarla en la formación: un itinerario progresivo para desarrollar estas capacidades a lo largo de los grados, combinando programas comunes y formación más especializada.

El objetivo final es que los profesionales sepan usar IA y que sean capaces de hacerlo con criterio, autonomía y responsabilidad.  Esto se hace combinando la competencia tecnológica con las capacidades humanas como: el análisis crítico, la creatividad, el trabajo en equipo, el liderazgo o la resiliencia.

Mesa redonda: IA, datos y talento desde diferentes perspectivas

El encuentro finalizó con una mesa redonda en la que participaron los tres ponentes junto a Miguel Ángel Rodríguez Ramos, subdirector general de Sistemas y Tecnología Informática del Ayuntamiento de Madrid.

La conversación permitió conectar las distintas perspectivas presentadas durante la jornada —empresa, investigación, universidad y Administración Pública— y debatir sobre los principales retos que plantea la incorporación de la IA a la gestión de personas.

Se abordó cómo la calidad del dato se ha convertido en el elemento clave para aprovechar el potencial de la IA, reflejando la diferencia entre acumular datos frente a desarrollar una verdadera cultura data-driven, capaz de transformar estos en decisiones más fiables y objetivas. Se resaltó como un aspecto muy relevante la necesidad de tener siempre claro el foco del análisis, el para qué. Y se destacó la conveniencia, una vez más, de romper silos y tratar el dato como un bien común que aporta valor a toda la organización.

También se analizó el papel de las universidades en la formación de profesionales preparados para un uso responsable de la inteligencia artificial, combinando competencias técnicas y humanas. Asimismo, se reflexionó sobre los retos organizativos que plantea la IA, la necesidad de fortalecer la gobernanza y calidad de los datos, y los pasos que deben dar las organizaciones para impulsar una adopción efectiva y ética de estas tecnologías.

Como hilo conductor, la conversación puso de manifiesto que la tecnología y la IA solo generan valor cuando se apoyan en datos de calidad, una estrategia clara y personas capacitadas para interpretar y aplicar sus resultados.

El principal reto no es solo incorporar la IA, sino conseguir que forme parte del día a día de las organizaciones. Para ello, es importante ayudar a las personas a entender su utilidad y superar las dudas que pueda generar. La clave está en empezar a utilizarla, probar rápido, aprender con la experiencia y generar confianza, siempre con un objetivo claro.

People Analytics se consolida como una herramienta clave para comprender mejor el talento de las organizaciones, anticipar necesidades y apoyar decisiones cada vez más estratégicas en un contexto marcado por el avance de la inteligencia artificial.

Desde el IIC seguimos trabajando en el desarrollo de metodologías y soluciones que combinan datos, conocimiento experto e inteligencia artificial para impulsar una gestión del talento más informada, objetiva y basada en evidencias.

Puedes ver el vídeo de la jornada completa.

«People Analytics: mejores datos, mejores decisiones»

La entrada People Analytics: mejores datos, mejores decisiones de talento se publicó primero en IIC.

Con motivo del Día Mundial de la Sepsis, el Dr. Ángel Estella, del Servicio de Medicina Intensiva del Hospital Universitario de Jerez de la Frontera, condujo un videopodcast en el que particparon Elisa Martín, directora del área del salud de Instituto de Ingeniería del Conocimiento (IIC), junto con el Dr. Marcio Borges coordinador de la Unidad Multidisciplinar de Sepsis del Hospital Universitario Son Llàtzer, miembro del Grupo de Sepsis del IdISba y presidente de la Fundación Código Sepsis. En el videopodcast hablaron sobre cómo el uso de técnicas de inteligencia artificial ayuda a la detección temprana de sepsis y shock séptico. 

Detectar la sepsis antes de que sea evidente

El problema de la sepsis casi comienza por su definición y su consenso, ya que hay hasta tres definiciones distintas en los últimos 25 años, lo que ya genera dificultades a la hora de saber, por ejemplo, tipos de sepsis, el impacto sanitario que produce, etc.

Uno de los grandes retos de la sepsis es precisamente su detección temprana. La evolución de un paciente puede ser rápida y los primeros signos no siempre permiten identificar de forma sencilla que se está iniciando un proceso séptico.

La detección de sepsis es aproximadamente el 96% manual y con sistemas tradicionales como los criterios SIRS o qSOFA. Aquí es donde la inteligencia artificial puede aportar nuevas capacidades. Mediante el análisis continuo de variables (hasta 70 variables dependiendo del hospital) y de la información disponible en la historia clínica electrónica, es posible identificar patrones y combinaciones de variables difíciles de detectar de forma convencional. Además de adelantarse en la detección de los sistemas tradicionales.

El objetivo no es sustituir la valoración del profesional sanitario, sino poner más información a su disposición y hacerlo antes, para ayudarle en la toma de decisiones. Siendo el sanitario quien tiene la última palabra sobre el posible tratamiento del paciente.

“En la sepsis, llegar antes puede cambiar la evolución del paciente”.
— Dr. Marcio Borges

Del conocimiento clínico a un sistema de alerta inteligente

Esta combinación de conocimiento médico, investigación clínica e inteligencia artificial (IA) está detrás de BIAlert Sepsis, un sistema de apoyo a la decisión clínica desarrollado por IIC a partir de una línea de investigación liderada por el Dr. Marcio Borges en el Hospital Universitario Son Llàtzer.

La herramienta analiza en tiempo real diferentes variables procedentes de la historia clínica para identificar pacientes con riesgo de desarrollar sepsis y generar una alerta que ayude al equipo asistencial a realizar una valoración precoz.

El sistema analizando estas variables clínicas previas, puede anticiparse prediciendo el riesgo de que un paciente desarrolle sepsis en las próximas 24 horas.

Como explica Elisa Martín, directora del área de Salud del IIC:

“El objetivo es mejorar la detección precoz de la sepsis y del shock séptico”.
— Elisa Martín

Se trata, por tanto, de utilizar BIAlert Sepsis como una herramienta de apoyo al profesional, integrándola en los procesos hospitalarios para que pueda aportar información útil allí donde realmente se necesita. 

De la investigación al impacto real en el hospital

El desarrollo de sistemas de IA en salud no termina cuando un modelo obtiene buenos resultados, sino que se trabaja en conseguir que esa tecnología pueda integrarse de forma segura en la práctica clínica y demostrar su impacto real.

Los últimos resultados publicados sobre BIAlert Sepsis en PLOS Global Public Health, avanzan precisamente en esta dirección. El estudio realizado con 8.039 pacientes con sepsis atendidos en el Hospital Universitario Son Llàtzer analizó qué ocurrió antes y después de incorporar este sistema de IA al proceso asistencial.

Los resultados muestran una asociación entre su utilización y una reducción de cuatro puntos porcentuales en los ingresos en UCI, del 34,4 % al 30,4 %, además de una disminución de la estancia hospitalaria.

Los datos difundidos por IIC señalan también una reducción de casi un día de estancia hospitalaria entre UCI y planta, un ahorro medio de 1.887 euros por episodio asistencial y la posibilidad de alertar del riesgo de sepsis hasta 24 horas antes del deterioro clínico.

Medicina e inteligencia artificial: una colaboración necesaria

En el mundo sanitario para que una solución de IA tenga esa utilidad clínica, es necesario reunir datos de calidad, conocimiento médico, investigación, tecnología y la validación en entornos asistenciales reales.

La experiencia de profesionales sanitarios como el Dr.Marcio Borges aportan la perspectiva clínica, mientras que, desde el equipo de salud de IIC, abordan el papel de la tecnología y la necesidad de trasladar la investigación en IA hasta herramientas que puedan incorporarse al día a día de los hospitales.

Es precisamente esta colaboración multidisciplinar la que permite avanzar desde un modelo predictivo hasta una solución capaz de generar impacto clínico y asistencial medible. 

Anticiparse para poder actuar

La aplicación de IA a la sepsis es un buen ejemplo de cómo la tecnología puede ponerse al servicio de una necesidad clínica concreta, y por extensión a la sociedad.

No se trata simplemente de disponer de más datos o de desarrollar modelos cada vez más complejos. El verdadero valor está en ser capaces de transformar esos datos en información útil en el momento adecuado.

La entrada Sepsis e inteligencia artificial: anticiparse para actuar a tiempo se publicó primero en IIC.

El interés por la soberanía de la IA crece tanto en el ámbito público como privado. La apuesta de compañías como Mistral por la IA soberana y los modelos de pesos abiertos refleja que la soberanía ya no es solo un debate regulatorio, sino también una cuestión de estrategia tecnológica.

Si nos centramos en las necesidades de una organización, el máximo nivel de autonomía tecnológica implicaría operar en entornos completamente aislados (air-gapped) y controlar toda la cadena tecnológica, desde el hardware hasta el software y los modelos de IA. Sin embargo, alcanzar una autonomía completa resulta, en la práctica, inviable para una organización, por lo que estas deben encontrar un equilibrio entre control, coste y dependencia.

Perspectivas de la soberanía de la IA

Para entender mejor este desafío, resulta útil analizar la soberanía de la IA desde tres perspectivas complementarias: técnica, operativa y estratégica.

Soberanía técnica

La soberanía técnica se refiere al control sobre la infraestructura y la tecnología que hacen posible la IA.

Soberanía sobre la infraestructura

En infraestructura, la dependencia comienza en la cadena global de semiconductores. La fabricación de chips avanzados, las tecnologías de litografía, las memorias especializadas y las GPU están concentradas en un reducido número de empresas (TSMC, AMD, ASML, Micro entre otros), lo cual implica una dependencia ineludible independientemente del tamaño de la compañía.

En este contexto, Europa puede reivindicar un logro estratégico de primer orden: el liderazgo de ASML en la tecnología de litografía más avanzada del mundo, uno de los pocos ámbitos donde el continente ocupa una posición claramente dominante dentro de la cadena global de valor de los semiconductores.

La soberanía técnica también depende del acceso a capacidad de cómputo. El entrenamiento y despliegue de modelos avanzados requieren GPU especializadas, un mercado dominado actualmente por NVIDIA. Esta autonomía computacional no se limita exclusivamente al hardware: exige también disponer de centros de datos, energía, redes de comunicaciones y capacidad operativa suficientes para soportar cargas de IA a gran escala.

Por ello, el acceso garantizado a infraestructura de procesamiento se está consolidando como un activo estratégico para empresas y países, hasta el punto de que la construcción de grandes centros de datos comienza a considerarse una cuestión de interés nacional.

Soberanía sobre la tecnología

La aparición de los modelos fundacionales ha abierto un debate sobre el grado de independencia tecnológica que ofrecen, hablamos de los modelos frontera y los de pesos abiertos.

Los modelos frontera, desarrollados por compañías como OpenAI, Anthropic o Google, proporcionan las capacidades más avanzadas y una rápida evolución tecnológica.

Por otro lado, los modelos de pesos abiertos, impulsados por actores como Mistral, ofrecen mayores posibilidades de auditoría, personalización y control de costes.

Desde la perspectiva de la soberanía, no existe una opción universalmente superior: la decisión depende de qué capacidades se consideran estratégicas y cuáles pueden obtenerse eficazmente de terceros.

La dependencia tecnológica tampoco se limita al modelo utilizado. Las plataformas cloud, los entornos de desarrollo, las herramientas de despliegue y observabilidad o los servicios gestionados de proveedores como Microsoft Azure, AWS o Google Cloud influyen de forma decisiva en la autonomía de una organización. Es posible utilizar modelos abiertos y, aun así, mantener una elevada dependencia de una plataforma concreta. Así, operar en entornos air-gapped, no es suficiente para una soberanía efectiva.

Soberanía operativa

La soberanía operativa se centra en el control efectivo de la IA durante su funcionamiento. Abarca los datos, la seguridad, la operación de los servicios, la gobernanza y el cumplimiento normativo.

Respecto a los datos, la cuestión no es solo dónde se almacenan, sino dónde se procesan, bajo qué jurisdicción operan y quién puede acceder a ellos. La soberanía exige que las organizaciones mantengan el control sobre el uso de la información, especialmente cuando esta es sensible.

También requiere controlar accesos, privilegios administrativos y mecanismos de auditoría que permitan supervisar tanto a usuarios como a proveedores. Del mismo modo, resulta relevante conocer quién opera los sistemas, desde qué países se presta soporte y qué terceros participan en el servicio.

La soberanía operativa requiere una infraestructura independiente operada por personal ubicado en el territorio y sujeto a su jurisdicción. Además, incluye la capacidad de migrar entre proveedores sin perder datos, modelos o activos generados, reduciendo el riesgo de dependencia irreversible. Junto a ello, exige mecanismos de gobernanza, supervisión y transparencia que permitan gestionar riesgos, demostrar cumplimiento regulatorio y mantener la responsabilidad sobre los sistemas desplegados.

Soberanía estratégica

La soberanía estratégica aborda quién captura el valor económico de la IA y quién conserva la capacidad de decisión asociada a ella.

Desde una perspectiva geopolítica, la IA se ha convertido en un activo estratégico comparable a la energía, las telecomunicaciones o la defensa. La capacidad de desarrollar modelos, fabricar componentes clave, operar infraestructuras y atraer talento condiciona cada vez más la autonomía de los países y regiones.

En el plano económico, quienes controlan las capas fundamentales de la cadena de valor concentran inversión, empleo cualificado, propiedad intelectual y capacidad de influencia. Para las empresas europeas, el reto es desarrollar capacidades propias suficientes para competir, negociar y reducir dependencias excesivas.

Conclusiones sobre la soberanía de la IA

La soberanía de la IA no es un estado absoluto, sino un continuo que abarca tecnología, operaciones y estrategia. La cuestión principal que se plantea es decidir cuáles se aceptan, cuáles se mitigan y cuáles constituyen un riesgo.

Para la mayoría de organizaciones, la soberanía pasa por disponer de la capacidad de elección necesaria para mantener el control sobre aquellas capacidades que consideran estratégicas. De esa capacidad dependerán su competitividad, resiliencia y autonomía futura.

La entrada Soberanía de la IA: mucho más que dónde se ejecuta un modelo se publicó primero en IIC.

Pero una detección más temprana no solo tiene un impacto clínico, sino que también contribuye a utilizar mejor los recursos hospitalarios y reducir costes asociados a la atención de estos pacientes.

Esta es una de las principales conclusiones de un nuevo estudio publicado en PLOS Global Public Health, en el que han participado profesionales médicos e investigadores del Instituto de Ingeniería del Conocimiento (IIC), y que analiza el impacto económico de BIAlert-Sepsis, un sistema de inteligencia artificial diseñado para predecir el riesgo de sepsis hasta 24 horas antes de su reconocimiento clínico.

Muestra del estudio con más de 8.000 pacientes analizados

El estudio analiza datos reales de 8.039 pacientes con sepsis atendidos en el Hospital Universitario Son Llàtzer, en Mallorca.

Los investigadores compararon dos periodos: uno anterior a la implantación de BIAlert-Sepsis, entre 2011 y marzo de 2019, y otro posterior a su incorporación, desde abril de 2019 hasta junio de 2024. Para evitar distorsiones provocadas por la pandemia, el periodo de COVID-19 se excluyó del análisis.

BIAlert-Sepsis utiliza modelos de machine learning entrenados con datos históricos del hospital para identificar pacientes con alto riesgo de desarrollar sepsis en las siguientes 24 horas. Las alertas se integran directamente en la historia clínica electrónica para que los profesionales sanitarios puedan actuar sobre ellas dentro de su flujo habitual de trabajo.

Menos ingresos en UCI y estancias más cortas

Los resultados muestran mejoras relevantes durante el periodo en el que estaba implantado el sistema de IA:

• Los ingresos en UCI pasaron del 34,4 % al 30,4 %.
• La estancia media en UCI se redujo en 0,35 días por paciente.
• La estancia en planta disminuyó en 0,59 días.

En términos económicos, el coste medio por ingreso pasó de 26.517 euros a 24.630 r euros. Podemos concretar que el ahorro calculado a partir de la reducción del uso de recursos hospitalarios fue de aproximadamente 1.800 euros por paciente.

Además, al ajustar estadísticamente los resultados para tener en cuenta factores como la edad, el sexo, los ingresos en UCI o la complejidad clínica, el periodo de utilización de la IA siguió estando asociado con una reducción del coste medio de hospitalización de entre el 26,1 % y el 31,1 %, dependiendo del modelo empleado.

¿Es rentable implantar este tipo de inteligencia artificial?

El estudio va un paso más allá y analiza no solo el ahorro por paciente, sino también si la inversión necesaria para implantar y mantener el sistema puede compensarse económicamente.

Para ello, los investigadores realizaron una proyección a cinco años incluyendo los costes de instalación, mantenimiento, nivel de adopción por parte de los profesionales y rendimiento del sistema.

En el escenario principal, el modelo estima un beneficio neto acumulado de 3,55 millones de euros en cinco años y un retorno de la inversión del 528 %. Según la simulación, el punto de equilibrio económico se alcanzaría ya durante el primer año.

Incluso utilizando un escenario más conservador —con menor rendimiento del sistema y una adopción más lenta—, la proyección sigue siendo positiva: alrededor de 2,08 millones de euros de beneficio neto acumulado y un ROI cercano al 310 % a cinco años.

Los análisis de sensibilidad realizados con 10.000 simulaciones respaldan además la estabilidad de estos resultados: menos del 3 % de las simulaciones obtuvieron un valor económico neto negativo.

Tecnología para anticiparse y utilizar mejor los recursos

Uno de los aspectos relevantes de este trabajo es que no analiza únicamente el funcionamiento de un algoritmo en un entorno experimental. Estudia su utilización en un hospital real y dentro de un programa de atención a la sepsis que llevaba años funcionando.

El estudio aporta así evidencia de cómo la inteligencia artificial aplicada para la ayuda a la detección precoz de la sepsis puede ir más allá de la capacidad predictiva de un modelo.

Integrada correctamente en los procesos asistenciales, la IA puede ayudar a anticipar situaciones de riesgo, apoyar la toma de decisiones de los profesionales y favorecer un uso más eficiente de los recursos hospitalarios.

Con BIAlert-Sepsis podemos convertir la predicción temprana de sepsis en una herramienta que aporta valor tanto a la atención del paciente como a la sostenibilidad del sistema sanitario.

La entrada IA para anticiparse a la sepsis y optimizar los recursos hospitalarios  se publicó primero en IIC.

La entrada Prospective economic evaluation of a predictive artificial intelligence model for sepsis: Effects on hospital costs and return on investment se publicó primero en IIC.

Pablo Haya, director de Business and Language Analytics en el Instituto de Ingeniería del Conocimiento (IIC), ha participado en el trabajo que ha dado lugar a este decálogo, orientado a facilitar una aplicación responsable, ética y práctica de la inteligencia artificial en las organizaciones.

La publicación del decálogo coincide con una nueva etapa en la aplicación del Reglamento Europeo de Inteligencia Artificial, conocido como AI Act. Desde el 2 de agosto de 2026, la Comisión Europea y las autoridades nacionales han comenzado la fase general de aplicación, supervisión y ejecución del Reglamento, que recuerda construir una IA confiable requiere ir más allá del cumplimiento estrictamente normativo.

Bases para el decálogo de la IA confiable

El decálogo de la IA Confiable se ha elaborado a partir de la síntesis de diferentes marcos internacionales de referencia. Entre ellos se encuentran las directrices éticas de la Unión Europea, los principios de inteligencia artificial de la OCDE, el AI Playbook del Gobierno del Reino Unido y otras aportaciones especializadas sobre el desarrollo responsable de esta tecnología.

El Grupo de Trabajo ha analizado estos marcos para identificar sus principales puntos de convergencia, como la transparencia, la robustez, la equidad y la supervisión humana. Además, ha incorporado otras dimensiones complementarias relacionadas con el valor social, la sostenibilidad y la responsabilidad operativa.

Decálogo para una IA confiable

El objetivo del decálogo es ayudar a convertir los grandes principios de la IA responsable en criterios comprensibles y aplicables durante todo el ciclo de vida de los sistemas IA: desde la definición del caso de uso y la selección de los datos hasta su puesta en producción, supervisión y evaluación continua.

01. Valor y propósito. La IA debe generar valor real para la sociedad, promoviendo el bienestar, la sostenibilidad y el progreso inclusivo.

02. Centralidad en la persona. La IA debe respetar la dignidad, autonomía y derechos fundamentales, reforzando (no sustituyendo) la capacidad humana.

03. Legalidad y alineamiento normativo. Todo sistema debe cumplir con la legislación vigente y los marcos regulatorios aplicables.

04. Equidad y no discriminación. Debe garantizarse un tratamiento justo, evitando sesgos y discriminaciones injustificadas.

05. Transparencia y explicabilidad. La IA debe ser comprensible, comunicando su funcionamiento, limitaciones y criterios de decisión.

06. Privacidad y gobernanza del dato. El uso de datos debe ser legítimo, seguro y controlado, asegurando calidad e integridad.

07. Responsabilidad y rendición de cuentas. Las organizaciones deben asumir la responsabilidad explícita sobre el comportamiento, impactos y resultados de la IA.

08. Control humano significativo. Las decisiones relevantes deben estar sometidas a supervisión humana adecuada al riesgo.

09. Robustez, seguridad y resiliencia. Los sistemas deben ser fiables, seguros y resistentes a fallos a lo largo de todo su ciclo de vida.

10. Gestión del riesgo y mejora continua. La IA debe monitorizarse, evaluarse y adaptarse continuamente para prevenir impactos negativos.

El trabajo del Clúster por una IA ética y transparente

El Clúster de Inteligencia Artificial de la Comunidad de Madrid reúne a empresas, startups, universidades e instituciones con el propósito de impulsar el conocimiento, la colaboración público-privada y el desarrollo de proyectos innovadores relacionados con la inteligencia artificial. El IIC forma parte de este Cluster de IA de la Comunidad de Madrid.

Dentro de las actividades están los grupos de trabajo, concebidos para identificar retos compartidos, definir proyectos, desarrollar soluciones y casos piloto, elaborar estudios y participar en propuestas y convocatorias de ámbito nacional y europeo.

En concreto, el Grupo de Trabajo de IA Confiable centra su actividad en el reto de desarrollar sistemas éticos, transparentes, explicables, respetuosos con la privacidad y capaces de reducir posibles sesgos. El grupo cuenta con profesionales procedentes del ámbito tecnológico, empresarial, académico y jurídico, lo que permite abordar la confianza en la IA desde una perspectiva multidisciplinar.

El IIC está comprometido con el desarrollo de una inteligencia artificial confiable, explicable y orientada a generar un impacto real en las empresas y en la sociedad. Además de desarrollar soluciones IA, el IIC se preocupa de incorporar criterios de transparencia, gobernanza del dato, supervisión humana y control de los posibles sesgos algorítmicos en sus proyectos de IA.

La entrada Las 10 claves del decálogo de la IA confiable del Cluster de IA de la CAM se publicó primero en IIC.

Una IA fiable precisa que su comportamiento sea:

• Medible
• Monitorizable
• Susceptible de mejora continua.

Para lograr todo lo anterior, es imprescindible definir un conjunto de métricas para construir una IA fiable que permitan evaluar tanto el rendimiento técnico como la calidad de las respuestas, la seguridad, el cumplimiento normativo y el impacto operativo del sistema.

A diferencia del software tradicional, los sistemas de IA presentan un comportamiento no determinista. Ante una misma consulta pueden ofrecer respuestas diferentes, todas ellas potencialmente válidas. Además, la calidad de una respuesta depende del contexto, de la intención del usuario y, en muchos casos, no existe una única respuesta correcta con la que compararla. Esto hace necesario complementar las métricas clásicas de observabilidad con nuevos indicadores específicos para IA.

Métricas técnicas y operacionales de sistemas IA

Como cualquier sistema distribuido, una arquitectura de IA debe monitorizar su estado operativo mediante indicadores ampliamente utilizados en ingeniería de software. Entre ellos destacan las conocidas métricas LETS:

• Latency, que mide el tiempo necesario para generar una respuesta.
• Error Rate, que refleja el porcentaje de peticiones fallidas o respuestas erróneas.
• Throughput, normalmente expresado como solicitudes por segundo, que permite conocer la capacidad del sistema para atender carga.
• Saturation, que evalúa el grado de utilización de los recursos disponibles y ayuda a detectar cuellos de botella antes de que afecten al servicio.

Estas métricas permiten garantizar la disponibilidad y estabilidad de la plataforma, pero resultan insuficientes para evaluar el comportamiento de un sistema basado en modelos de lenguaje.

Métricas de calidad de la IA

Uno de los principales retos consiste en medir la calidad de las respuestas generadas por un sistema de IA. En este ámbito destacan varios indicadores fundamentales como son la tasa de alucinaciones, el índice de relevancia de la respuesta o la satisfacción del usuario.

Tasa de alucinaciones del sistema IA

La tasa de alucinaciones mide la frecuencia con la que el modelo genera información incorrecta, inventada o no respaldada por las fuentes disponibles. Reducir este indicador es especialmente importante en sectores regulados o en aplicaciones donde la precisión resulta crítica.

Índice de relevancia de respuesta de la IA

El índice de relevancia evalúa hasta qué punto la respuesta responde realmente a la intención del usuario. Una respuesta puede ser técnicamente correcta y, sin embargo, no resolver la necesidad planteada. También, resulta útil medir la completitud de la respuesta, es decir, si cubre todos los aspectos relevantes de la consulta, así como la coherencia, entendida como la consistencia lógica y lingüística del contenido generado.

En aplicaciones que incorporan arquitecturas RAG, o Retrieval Augmented Generation, adquiere especial importancia la calidad de la recuperación documental. En este caso se evalúa si los documentos recuperados son realmente pertinentes, si la cobertura de la información es suficiente y si el contexto proporcionado al modelo permite generar respuestas fiables.

Satisfacción del usuario

Por último, la satisfacción del usuario continúa siendo una métrica esencial. Aunque se trata de un indicador subjetivo, proporciona una visión complementaria que permite detectar problemas que no siempre son visibles mediante métricas automáticas.

Métricas de seguridad de sistemas IA

Los sistemas de IA incorporan nuevos vectores de ataque que requieren mecanismos específicos de monitorización y de seguridad.

Entre las métricas más relevantes se encuentra la detección de posibles fugas de información personal o confidencial, conocida como PII Leakage, así como los intentos de exfiltración de datos mediante consultas maliciosas.

También deben monitorizarse los intentos de prompt injection, cuyo objetivo consiste en modificar las instrucciones originales del sistema para alterar el comportamiento del modelo, y los ataques de jailbreaking, diseñados para eludir las restricciones de seguridad incorporadas por el desarrollador.

Otro riesgo emergente es el denominado denial of wallet, donde un atacante realiza un elevado número de consultas con el propósito de incrementar artificialmente el coste operativo del sistema. Del mismo modo, conviene detectar intentos de extracción del modelo mediante consultas sistemáticas destinadas a reproducir su funcionamiento.

La monitorización continua de estos indicadores permite identificar amenazas de forma temprana y reforzar las medidas de protección.

Métricas de cumplimiento y responsabilidad de la IA

La creciente regulación sobre IA exige demostrar que los sistemas de IA funcionan de forma responsable y respetan determinados principios éticos y legales.

En este contexto resulta recomendable evaluar la presencia de sesgos en las respuestas, la generación de contenido tóxico o discriminatorio y la posible producción de información potencialmente dañina.

Estas métricas no solo contribuyen al cumplimiento normativo, sino que también ayudan a generar confianza entre usuarios, clientes y organismos supervisores.

Métricas de coste de implantación de la IA

La IA introduce una estructura de costes diferente a la del software convencional. Cada interacción consume recursos computacionales cuyo coste depende del número de tokens procesados, del modelo utilizado y de la complejidad de la operación.

Por este motivo, resulta recomendable monitorizar indicadores como el consumo de tokens por solicitud, el coste medio por petición y el coste asociado a cada funcionalidad, ya sea un asistente conversacional, un sistema de resumen automático o un proceso de extracción de información.

También es conveniente analizar la distribución del uso entre distintos modelos cuando una organización utiliza varios proveedores o diferentes versiones de un mismo modelo. De igual forma, conviene identificar el coste por usuario o por unidad organizativa para facilitar la imputación presupuestaria.

Otro aspecto frecuentemente olvidado son las peticiones fallidas, que pueden seguir generando costes incluso cuando no producen un resultado útil. Monitorizar este tipo de situaciones ayuda a optimizar el consumo y detectar configuraciones ineficientes.

Para que este análisis sea realmente útil, cada interacción debería incorporar etiquetas que permitan atribuir el coste según la funcionalidad, el usuario, el modelo empleado o el servicio responsable de la petición.

Monitorización continua para una mejora permanente

La definición de métricas constituye únicamente el primer paso. Una arquitectura de IA fiable requiere monitorización continua, análisis de tendencias y mecanismos automáticos de alerta capaces de detectar degradaciones en el rendimiento, desviaciones respecto al comportamiento esperado o cambios derivados de la evolución del modelo o de los datos utilizados.

La observabilidad debe combinar información técnica, indicadores de negocio y métricas específicas de IA para ofrecer una visión completa del estado del sistema. Este enfoque facilita la identificación temprana de problemas, permite optimizar costes, mejora la experiencia de los usuarios y contribuye a mantener la calidad de las respuestas a lo largo del tiempo.

En definitiva, la confianza en la IA generativa no depende únicamente de la capacidad de un modelo para generar texto. Se construye mediante la medición sistemática de su comportamiento, la evaluación continua de su calidad y la supervisión permanente de los riesgos asociados. Solo una estrategia integral de métricas permite transformar una solución de IA en un sistema fiable, gobernable y preparado para evolucionar de forma segura.

La entrada Métricas para construir una inteligencia artificial fiable se publicó primero en IIC.