L'intelligence artificielle (IA) joue un rôle de plus en plus important dans nos sociétés, non seulement dans notre vie quotidienne, mais aussi dans la façon dont les systèmes et infrastructures critiques sont gérés. 

À l'approche du Sommet pour l’action sur l’IA organisé à Paris les 10 et 11 février 2025, Thales a publié un document de synthèse sur l'intelligence artificielle pour les systèmes critiques, qui détaille la manière dont il met en œuvre l'IA et s'efforce de trouver le juste équilibre entre autonomie, performance et sûreté et sécurité.

Nous avons rencontré Juliette Mattioli, experte senior en intelligence artificielle et l'un des co-auteurs du document, pour en savoir plus sur cette approche.

Nous entendons souvent parler de l'utilisation de l'IA dans les applications civiles, mais qu’en est-il de son utilisation dans les systèmes critiques ?

Dans les systèmes critiques, l'IA peut être utilisée en complément de l'expérience et de l'expertise humaines. Cette technologie peut analyser d'énormes quantités de données provenant de diverses sources, telles que des capteurs et des effecteurs, combinées avec des connaissances métiers et cela beaucoup plus rapidement que les humains. La réduction de la charge mentale des opérateurs humains par la délégation de fonctions non critiques, voire critiques dans certains cas, leur permet de prendre des décisions plus rapides et mieux informées. 

Quels sont les enjeux de l’utilisation de l’IA dans de tels environnements ?

Bien que l'IA puisse améliorer de manière significative la vitesse et l'efficacité de nombreux processus en suggérant des actions aux opérateurs, il est essentiel que l’être humain reste au centre de la prise de décision.

Nous devons également nous assurer que les actions suggérées par l'IA que nous mettons en œuvre soient valides et explicables, après coup et en temps réel. Si un copilote numérique dans le cockpit dit au pilote d’exécuter une manœuvre, le pilote a besoin de comprendre - rapidement et en termes facilement compréhensibles - pourquoi la suggestion est faite, afin de pouvoir décider d'y donner suite ou non.

Enfin, il y a les défis physiques liés à l'embarquabilité. L'IA intégrée dans des systèmes critiques, notamment dans le domaine militaire, doit souvent répondre à des exigences strictes en termes de taille, de poids et de consommation d'énergie. Les ingénieurs de Thales disposent à la fois de l'expertise technique et de la connaissance opérationnelle pour concevoir des systèmes d'IA qui intègrent ces contraintes dès la phase de conception.

Dans les systèmes critiques, la sécurité et la cybersécurité sont fondamentales...

L'IA ouvre de nombreuses possibilités dans la gestion des systèmes critiques, mais elle crée aussi de nouvelles vulnérabilités. Nous travaillons en permanence pour nous assurer que nos systèmes d'IA sont sécurisés et protégés contre les cyberattaques, qu'il s'agisse des systèmes eux-mêmes ou des données utilisées pour former l'intelligence artificielle.

Thales met à profit son expertise dans le domaine de la cybersécurité pour protéger l'IA qu'elle déploie dans des systèmes et des environnements critiques, et nous disposons d'une équipe de hackers éthiques qui travaillent à l'identification des vulnérabilités dans les systèmes d'IA que nous déployons. Leur travail permet de s'assurer que les systèmes sont résistants aux cyberattaques, garantissant ainsi à nos clients gouvernementaux et entreprises la mise en œuvre d'une intelligence artificielle de confiance.

 

• Thales@AI Action Summit
• Document de synthèse - IA des Systèmes Critiques   
• Accéder aux contenus de Thales sur l'IA dans la ​ Media Library
• Thales présente ses dernières innovations dans l’IA de confiance pour les systèmes critiques, en amont du Sommet pour l’Action sur l’IA