La inteligencia artificial tiene el potencial de transformar la sociedad desde los cimientos y más allá de procesos específicos. Es una de las conclusiones del encuentro «Innovación y Futuro: La Era de la Inteligencia Artificial», celebrado ayer en la Escuela de Competencias Digitales San Blas Digital | Agencia para el Empleo del Ayuntamiento de Madrid, al que asistieron en torno a 100 personas en la capital y otras 1.700 en streaming.

Este encuentro, impulsado por la empresa de ingeniería y consultoría Exceltic, contó con la participación de Ángel Niño, Concejal y titular del Área Delegada de Innovación y Emprendimiento del Ayuntamiento de Madrid. Aseguraba que “la tecnología está cambiando el mundo, y lo seguirá cambiando”. Confirmaba que el Ayuntamiento de Madrid fue el primer ayuntamiento de España en abrir un centro de IA dedicado a divulgar sobre ella. Con ello, resaltaba que “desde las administraciones también se puede fomentar la innovación y la utilización de tecnologías”.

La ponencia estrella la desarrolló Jon Hernández, divulgador español especializado en Inteligencia Artificial con más de 200.000 suscriptores, quien analizó los desafíos y avances que impulsarán esta tecnología en el entorno empresarial. “Tenemos que cambiar la percepción y aceptar que es un cambio cultural que nos va a afectar a todos. La IA no es una herramienta, es mucho más, es un cambio de paradigma” destacó ante un auditorio que buscaba las claves de la disrupción impulsada por la inteligencia artificial.

Más que una tecnología

En su ponencia, Jon Hernández destacó el potencial de la IA para reconfigurar la sociedad desde sus cimientos a través de un proceso de transformación que no se limitará a la automatización de algunos ámbitos. “La IA está haciendo cosas que nunca pensábamos que una maquina podría hacer”, subrayó.

En este sentido, el experto disipó algunos miedos habituales al hablar de IA, como la posibilidad de que elimine puestos de trabajo por la automatización, pero sí recomendó adaptarse a una nueva realidad que, explicó, “tenemos que cambiar la percepción y aceptar que es un cambio cultural que nos va a afectar a todos”. Sobre ello, llamó a preservar la ética y a defender el papel de los profesionales ante procesos de automatización sobre los que no se conocen muchas áreas esenciales para la toma de decisiones por parte de estos sistemas.

El futuro es de todos

Con este encuentro de Exceltic, en el que también participó Ángel Niño, titular del Área Delegada de Innovación y Emprendimiento del Ayuntamiento de Madrid, la compañía de consultoría en transformación digital busca reforzar su compromiso con el aprendizaje continuo y la innovación.

“La tecnología no espera a nadie. En un mundo que avanza a la velocidad de la luz, mantenerse en la vanguardia exige una mentalidad abierta y una capacidad constante de aprendizaje. La clave no es solo adaptarse, sino anticiparse. Y para ello, nada supera el aprendizaje directo de quienes están moldeando el futuro. Escuchar a los visionarios de cada área nos permite absorber su perspectiva, compartir ideas innovadoras y prepararnos para un cambio que ya está aquí, transformando nuestras vidas a cada paso”, destaca Eduardo Requejo, director de Exceltic, sobre una charla que supuso un punto de partida para que los asistentes puedan aprovechar el potencial de la IA en sus negocios, puestos de trabajo y día a día como ciudadanos. “La IA tiene más potenciales beneficios que riesgos si sabemos aprovecharla correctamente, así que la formación es clave para reducir esos riesgos y multiplicar sus beneficios”, añade Requejo.

La primera inteligencia artificial (IA) española que anticipa el riesgo de sepsis con un 96% de capacidad predictiva ha obtenido la certificación CE (nivel IIa) como dispositivo sanitario. BIAlert Sepsis, que así se llama la plataforma diseñada por el Instituto de Ingeniería del Conocimiento (IIC), es la de mayor envergadura a nivel europeo para predecir la sepsis en todas las áreas del hospital. Ésta se adelanta a lo que el médico no ve. Recoge cada 30 minutos información de cada paciente desde el momento que ingresa en el hospital y lanza alertas al equipo médico, indicando el riesgo de sepsis 24 horas antes de que se desencadene el síndrome. La solución se ha entrenado con datos de más de 200.000 pacientes españoles y el algoritmo va aprendiendo cada vez más con el tiempo.

La sepsis, un complicado y creciente problema de salud pública

Las cifras de mortalidad hospitalaria asociada a sepsis son significativamente superiores a las que registran otros procesos adversos como la cardiopatía isquémica, el ictus o la mayoría de los tumores. Así, la mortalidad de la sepsis se estima en alrededor del 32%, pero hay estudios con cifras mayores al 50%. Esto convierte a la sepsis en la principal causa de fallecimiento hospitalario en el mundo y una importante preocupación para los clínicos que tienen que lidiar con ella.

La incidencia de la sepsis, causada por una infección bacteriana, vírica o fúngica, se incrementa en torno a un 3% anual por diferentes motivos. Destacan el envejecimiento de la población, con mayor número de pacientes de edad avanzada, con pluripatología, más inmunodeprimidos y sometidos a más terapias (como la quimioterapia) y cirugías agresivas. Se calcula que en los países desarrollados se produce un nuevo caso de sepsis por cada 100.000 habitantes al día. 

El código sepsis se ‘quedaba corto’

170 hospitales españoles tienen implantado un código sepsis para el diagnóstico precoz de esta emergencia, no obstante, este sistema tradicional de detección de la sepsis tiene un elevado número de falsos positivos y negativos, cifrado en alrededor del 65%.

Como apunta el doctor Marcio Borges, coordinador de la Unidad Multidisciplinar de Sepsis del Hospital Universitario Son Llàtzer, en Palma de Mallorca, “el diagnóstico de la sepsis es tremendamente complejo, ya que se presenta con mucha variabilidad. Depende de múltiples condiciones y también de la diferente susceptibilidad genética por parte del paciente”. El también presidente de la Fundación Código Sepsis explica que los métodos tradicionales “están basados en el análisis de diferentes variables de la historia clínica del paciente y alertan cuando se alcanza una puntuación determinada”, pero, como reconoce, “la precisión era demasiado baja”.

El camino hacia el algoritmo que logra anticiparse a la sepsis

En 2018 el Instituto de Ingeniería del Conocimiento empezó a trabajar en el algoritmo para predecir el riesgo de sepsis 24 horas antes de que se produjera con el Hospital Universitario Son Llàtzer, a raíz de un concurso que lanzó la Fundación Instituto de Investigación Sanitaria Illes Balears (IdISBa).

Los datos retrospectivos de más de 200.000 pacientes ingresados entre 2014 y 2018 en urgencias o en cualquier área de este hospital permitieron desarrollar un código adecuado al concepto de investigación para poder probar la hipótesis. “En paralelo, en la unidad de sepsis, validábamos el riesgo de sepsis de estos”, desvela Borges. “Revisamos datos de 9.300 pacientes con sepsis y 78.000 sin sepsis. Esto nos permitió comparar nuestro modelo de ‘machine learning’ con los sistemas tradicionales y con un programa propio de detección automatizada y ver las diferencias en falsos positivos. En el caso de la IA había menos de un 9% de falsos positivos, el sistema era muy sensible y preciso”, aclara.

Avisar en tiempo real

La segunda fase del desarrollo fue la prospectiva: el objetivo era ver si el algoritmo era capaz de avisar en tiempo real al equipo médico si los pacientes iban a tener sepsis o no. Se llevó a cabo desde enero 2019 a abril 2022, periodo durante el que se emitieron 64.524 alertas de posible sepsis, de las cuales fueron revisadas un 30% (alrededor de 20.000). La herramienta demostró una enorme capacidad predictiva con menos del 1% de falsos negativos.

En esta segunda fase, comorelata Elisa Martín, directora del área de Salud del IIC, “nos enfocamos en productivizar el código para que fuera reproducible y escalable de forma industrializada”. Se logró crear un modelo que se adapta al perfil de los pacientes y a la variabilidad de la práctica asistencial. Y es quecada población tiene unas características que se reflejan en los registros sanitarios. “La sepsis no se define de la misma manera en todos los centros sanitarios”, explica Martín. “El modelo se adapta a esa variabilidad de la práctica asistencial y a cada hospital, por ello es fundamental la colaboración con el equipo médico para llevar a cabo esa adaptación local. Si queremos que la herramienta sea precisa hay que personalizar y particularizar”, añade.

Este modelo permite aplicar un mínimo de 70 variables clínicas y un máximo de 200. Tiene una capacidad de predicción que no es factible para el ser humano. “Es una pequeña revolución de lo que hacíamos hasta ahora, que sabíamos que no era suficiente, ya que no habíamos sido capaces de identificar precozmente la sepsis. Ahora ya no tenemos que esperar a que se presenten las primeras disfunciones orgánicas”, celebra Borges.

¿Cómo se implementa BIAlert en un hospital?

1. Lo debe aprobar el comité ético del hospital.
2. Se firma un acuerdo de protección de datos / confidencialidad.
3. Se necesita únicamente tener un servidor, que cualquier centro puede tener, con un ordenador con algo de memoria (nada excepcional). 
4. Hay que elaborar un diccionario para etiquetar de manera estándar los criterios clínicos en cada hospital. No genera trabajo adicional al profesional.
5. Se instala en remoto y se hace una revisión en remoto también para confirmar que todo va bien.
6. El sistema lee los datos de la historia clínica de los pacientes cada 30 minutos, aunque se pueden programar hasta lecturas cada 15 minutos.
7. El sistema lanza una alerta cuando existen posibilidades significativas de que el paciente desarrolle sepsis en las próximas 24 horas.
8. El equipo médico realiza pruebas al paciente para detectar el patógeno que le va a generar la sepsis.
9. El paciente recibe medicación para prevenir la sepsis.

Tras dos años y medio en funcionamiento en el Hospital Universitario Son Llàtzer, otros dos hospitales, el 12 de Octubre de Madrid y el Complejo Hospitalario Universitario de Albacete, están incorporando el software de IA a sus sistemas de gestión de pacientes. Los centros no pueden compartir datos entre sí, por la ley de protección de datos, pero el algoritmo va aprendiendo cada vez más de la experiencia, por lo que la efectividad solo puede ir en aumento. Cuanto más tiempo lo usen los hospitales, BIAlert podrá ofrecer predicciones más afinadas.

El avance y consolidación de la inteligencia artificial crea el reto de verificar qué contenidos son creados por algoritmos y cuáles por humanos. Será la única fórmula para desenmascarar contenidos falsos o fraudulentos y evitar que las mentiras proliferen en Internet… y en el mundo académico. Hablamos con Khorst Klaus, fundador de Plag, en su primera entrevista con un medio de España.

¿Puede darnos más detalles sobre las características únicas de PLAG, en particular su plataforma multilingüe y su detector de contenido de IA?

Uno de los mayores diferenciadores es la adaptabilidad a los clientes. Nuestros competidores normalmente ofrecen una solución para todo tipo de público, pero con PLAG y hasta cierto punto podemos adaptar la solución a las necesidades de cada cliente. Otro punto de diferencia es la calidad del producto. Estamos invirtiendo mucho tiempo y esfuerzo para hacer productos súper exactos y precisos, esto les da a nuestros clientes mucho valor, especialmente en comparación con los de nuestros competidores.

¿Cómo logra PLAG una precisión tan alta en la detección de contenido generado por inteligencia artificial?

En lugar de simplemente entrenar modelos con los distintos textos, incluimos información lingüística en los datos de entrenamiento. Esta información nos permite cubrir las diferencias estructurales y lógicas presentes en los textos generados por IA y aumentar en gran medida la precisión del modelo para cada idioma. Por ejemplo, el modelo español se mejoró con 101 criterios y estadísticas de texto diferentes.

¿Puede explicar en detalle cuál es el valor de detectar contenido generado por IA?

Se prevé que en los próximos 5 años el contenido generado por IA representará más del 90%. Por eso, pensamos que la gente debería tener derecho a saber es si se trata de contenido humano o generado por IA. Podría resultar muy beneficioso para luchar contra las noticias falsas, ya que crear noticias falsas con IA generativa es muy fácil.

En segundo lugar, en el momento actual ya existe un gran problema en la educación. Los estudiantes y alumnos utilizan GenAI para hacer tareas o escribir ensayos. Realizamos una encuesta en Lituania que mostró que la mitad de los alumnos de las escuelas utilizaban GenAI para estas tareas. Por eso es importante tener la posibilidad de controlar para garantizar un alto nivel de calidad educativa.

En tercer lugar, es beneficioso para las empresas de creación de contenido poder identificar si se trata de contenido generado por IA simplemente porque el valor del texto generado por IA es mucho menor en comparación con el texto escrito por humanos.

¿Qué motivó la decisión de lanzar esta herramienta en España y qué potencial ve en el mercado español?

En primer lugar, no existía una buena herramienta para detectar contenido generado por IA en español, a diferencia de, por ejemplo, en inglés.

En segundo lugar, el español es un idioma importante, por lo que tener una herramienta para España abre una ventana para los países de América Latina.

Y en tercer lugar, ya hemos recibido algunas consultas de nuestros clientes en España (como la Universidad Jaume I, el Instituto Nacional de Ciberseguridad) sobre dicha herramienta.

¿Cómo Plag entrenó el sistema y con qué volúmenes de texto de qué áreas temáticas? Sobre todo, ¿de dónde proceden los datos del entrenamiento?

Para los textos, los utilizamos de fuentes disponibles públicamente, como blogs y portales de noticias de diversos temas, incluidas varias categorías, como política, tecnología, deportes, entretenimiento, finanzas, salud y noticias internacionales, así como varios informes, ensayos, trabajos de tesis de repositorios universitarios. El conjunto de formación inicial consta de casi 10 millones de frases.

¿Cuál es la importancia de poder detectar contenido generado por IA y cómo beneficia a varios sectores?

Podría ayudar en diferentes sectores. En los medios de comunicación podría ayudar a luchar contra las noticias falsas. En educación podría prevenir las trampas. El contenido generado automáticamente no es algo malo, pero existe la posibilidad de que la tecnología se utilice con malas intenciones, por lo que facilitamos que esto pueda evitarse.

¿Esta función de detección de IA está disponible actualmente en otros países? De ser así, ¿en cuáles?

La herramienta está disponible para los idiomas italiano, francés, inglés, lituano y alemán.

«Plag está disponible en inglés, francés, italiano, alemán, lituano…»

¿Qué impactos y desafíos se prevé con el aumento de la IA generativa en la sociedad, especialmente en la educación y la fuerza laboral?

GenAI cambiará el mundo tal como lo vemos y entendemos. GenAI permite la creación de contenido a escala industrial. Esto significa que la calidad del contenido en su conjunto disminuirá. Y la competencia entre contenidos aumentará enormemente. Las industrias creadoras de contenido pueden correr el riesgo de perder sus ingresos, por lo que necesitarán encontrar algunas formas de hacer que el contenido sea único y preservar un mayor valor. Algunos podrían considerar fortalecer sus marcas.

Probablemente estemos ante el fin de la era de los motores de búsqueda. La abundancia de contenido e información ya está dificultando que empresas como Google ofrezcan resultados de búsqueda relevantes. Ahora es mucho más difícil encontrar información relevante en Google en comparación con 2010 o 2015, ya que a menudo aparecen un montón de páginas irrelevantes optimizadas para SEO además de los resultados. Actualmente, GenAI muestra la capacidad de brindar respuestas relevantes al instante.

GenAI mejorará la eficiencia general en la educación. Ofrece conocimientos accesibles para la sociedad. Podría explicar fácilmente algunos temas difíciles a los usuarios y cubrir las lagunas de los sistemas educativos actuales. Piense en la tecnología como un maestro personal para cada persona en el mundo. Este es el potencial de GenAI.

¿Cómo garantiza el detector Plag AI la privacidad y seguridad de sus usuarios y, al mismo tiempo, proporciona una detección precisa del contenido generado por IA en multiples

La privacidad y la seguridad son nuestro compromiso desde el inicio de la empresa.

¿Qué estrategias tiene Plag para mantener su tecnología de detección de IA por delante de la evolución de los métodos de generación de contenido de IA?

Para mantenernos al día con la evolución de los modelos GenAI, revisamos periódicamente nuestros modelos y los actualizamos con nuevas funciones.

¿Qué papel considera Plag que desempeñará su detector de IA para mantener la integridad académica y combatir la desinformación a nivel mundial?

Creemos que será una de las herramientas esenciales para mantener la integridad académica en universidades y escuelas de todo el mundo.