Inteligencia aumentada en sistemas críticos
La rápida revolución digital nos ha dado una idea del potencial de la Inteligencia Artificial (IA) y los riesgos que conlleva. En industrias reguladas como la aeroespacial, el transporte y la defensa, las tecnologías deben ser certificables, explicables y seguras, al tiempo que se hace responsable a las personas de las decisiones críticas. Esto ha llevado al desarrollo de una nueva estrategia de IA, diseñada para resolver problemas de complejidad cada vez mayor, que pone al ser humano en el centro: la Inteligencia Aumentada.
Dos especialistas de Thales, el experto en investigación y tecnología Jean-François Gagnon, y el director general de Thales Digital Solutions Inc. Siegfried Usal, ambos con sede en Canadá, explican más sobre qué es esto y el impacto que tendrá en todos nosotros.
¿Qué es la inteligencia aumentada? ¿Es solo inteligencia artificial, pero mejor?
Siegfried Usal: Inteligencia aumentada significa que la inteligencia humana puede mejorarse mediante tecnologías basadas en IA adaptadas a un propósito siempre que tenga sentido para la sociedad. No es disrupción, sino continuidad del uso responsable de las tecnologías. La poderosa IA puede ayudar a encontrar y clasificar la información visual, de audio o textual más relevante de manera más eficiente que existe. Con la Inteligencia Aumentada, podemos resolver problemas de dificil resolucion hasta ahora para tomar mejores decisiones.
La inteligencia aumentada es una combinación de una variedad de tecnologías, como la fusión de datos, el aprendizaje profundo y las técnicas de detección humana ajenas a la pesrona. Sin embargo, se necesita algo más: la inteligencia aumentada es una ayuda, una IA humanizada que mejora el potencial humano, siempre ha existido en otras formas de trabajo en equipo.
¿En qué situaciones puede ser útil la inteligencia aumentada?
Jean-François Gagnon: Utilizando el ejemplo de un servicio de triaje médico. La inteligencia aumentada podría ayudar a los equipos médicos a analizar cantidades masivas de información, como señales fisiológicas capturadas por sensores. Esta tarea sería imposible para los humanos debido a límites puramente físicos. Sin embargo, la tecnología lo realiza fácilmente.
Este sistema de detección podría ofrecer apoyo a las decisiones de los trabajadores de la salud para que puedan concentrarse en los pacientes que se encuentran en las situaciones más críticas.
¿Apoyo a la toma de decisiones, No toma de decisiones?
SU:¡Absolutamente! Uno de los problemas recurrentes que se plantean cuando se menciona la IA es el miedo a que la máquina reemplace a los seres humanos. De hecho, estamos hablando de un sistema en el que los humanos siguen siendo responsables de la parte más crítica de la cadena de decisiones. Están respaldados y el proceso de toma de decisiones se ve reforzado por las capacidades perceptivas y de filtrado de la solución de Inteligencia Aumentada, pero la decisión final siempre recaerá en un ser humano.
Durante mi anterior carrera como piloto de combate, fui entrenado para tomar decisiones rápidas y seguras de vida o muerte. La tecnología dentro y alrededor de la cabina era una extensión de mí mismo, y cualquier mala interpretación podría conducir rápidamente a errores fatales. La Inteligencia Aumentada es capaz de amplificar esa combinación hombre-máquina y, lo más importante, ofrecer a los humanos nuevas herramientas para desarrollar mejor su juicio y capacidades de resolución de problemas, particularmente en situaciones críticas. Sin embargo, no puede reemplazar al ser humano, especialmente cuando hay vidas en juego.
¿Cúal es el nivel de preparacion para aceptar ese nivel de participación en contextos críticos más cotidianos?
SU: Para asegurar la adopción de Inteligencia Aumentada en sistemas críticos, ya sea en el campo de la defensa o para industrias reguladas como el transporte y la salud, la clave es la confianza.
Para generar esa confianza, Thales implementa un enfoque que llamamos Thales TrUE AI: una inteligencia artificial que es Transparente,Comprensible y Ética. Durante décadas, hemos acumulado la experiencia para crear tecnologías y soluciones sólidas y explicables. Este mismo conocimiento ahora debe aplicarse a una combinación de varias otras tecnologías, como la fusión de datos y el aprendizaje profundo (deep learning).
Parece que xiste un gran enfoque en la tecnología ...
JFG: Es cierto que la inteligencia aumentada reúne todas estas tecnologías. Sin embargo, no se trata de tecnología por tecnología. Entregamos soluciones en todos los niveles de la cadena de innovación, desde la definición temprana de un concepto hasta su adopción comercial. Para ello, trabajamos en estrecha colaboración con nuestros usuarios y red de socios para asegurarnos de no perder de vista el objetivo principal: asegurar que las soluciones que desarrollamos sean relevantes y útiles en su contexto específico.
SU: Esto significa que debemos diseñar, capacitar y nutrir la inteligencia artificial con conocimiento experto en el dominio y trabajar con los organismos reguladores para buscar confianza, trazabilidad y solidez, para asegurarnos de que se adapte a todas las aplicaciones críticas en los sectores aeroespacial, de defensa, seguridad, transporte terrestre y médico. .
Para lograr esto, por supuesto, necesitamos tener un perfecto control de los dominios esenciales para cada solución que se dirija a sistemas críticos, por ejemplo, ciberseguridad, inteligencia artificial e inteligencia humana.
¿Hay cosas que Thales, en especial, pueda aportar?
JFG: Nuestra especialización y experiencia en los campos críticos que hemos mencionado permiten un acercamiento mucho más amplio a los temas de Inteligencia Artificial y Aumentada.
En el contexto de COVID-19, por ejemplo, hemos podido aplicar tecnologías que fueron desarrolladas inicialmente por nuestras principales áreas de actividad para el campo e la medicina. Específicamente, una de nuestras tecnologías puede crear un modelo cognitivo para ayudar a los médicos a contravalidar sus diagnósticos en situaciones de fatiga o estrés intenso. En el clima actual, ese cruce de la aplicación de la tecnología puede terminar salvando vidas.
¿Y estia solos en estos desarrollos?
SU: Tenemos el conocimiento y las capacidades tecnológicas, pero Thales no puede lograr los objetivos que se fija por sí solo. Para mostrar a nuestros clientes, usuarios y autoridades reguladoras que pueden confiar en nuestras tecnologías para tomar sus decisiones, necesitamos diseñar soluciones futuras juntos.
JFG: Para ello, contamos con una sólida red de colaboradores externos en diversos campos. Trabajamos con los mejores expertos del mundo, aprovechando los conocimientos de la ciencia y los ecosistemas de innovación que hemos construido durante los últimos 15 años con universidades, empresas emergentes, usuarios y socios de la industria para fomentar tecnologías centradas en el usuario.
Entonces, ya se estáis aprovechando la experiencia pasada en beneficios actualmente. ¿Qué pasa con el futuro de la inteligencia aumentada?
SU: Creo que es bastante simple: dadas las mejoras que puede apoprtar, cuanto más rápido seamos capaces de humanizar la Inteligencia Artificial, más rápido se adoptará la Inteligencia Aumentada para el progreso y el bien de la humanidad.
