Intelligence artificielle GFT pour les décisions critiques

L'atelier logitiel d'IA de Thales est une solution de développement et de déploiement applicable à tous les domaines (aérospatiale, défense, finance, médical, l'automobile, etc). Il permet de mettre en place des solutions d'IA embarquées de confiance  à faible consommation d'énergie. Il permet de créer des solutions interprétables et vérifiables parfaitement adaptées pour des systèmes complexes autonomes ou pour la prise de décision et l'analyse prédictive dans des domaines critiques.

L'atelier logiciel repose sur les algorithmes de type « Genetic Fuzzy tree » (GFT), une nouvelle technologie de Machine Learning qui combine la logique floue et des algorithmes génétiques robustes, organisés en réseaux efficaces et basés sur des méthodes de prises de décisions humaines.

Cette technique innovante a été introduite par Psibernetix Inc. en 2015 et approfondie par Thales depuis 2018. La méthodologie GFT correspond à une approche de l'IA dénommée " TrUE " (Transparent, Understandable, and Ethical), par Thales, afin de renforcer les rapports humains – machines et la confiance apportée à l’IA.

L'atelier logiciel d'IA de Thales est conçu sur la méthodologie de la logique floue, développée en 1965 par Lotfi Zadeh. Cette méthodologie permet d’exploiter la tolérance à l'imprécision et à l’incertitude, afin d’obtenir un contrôle robuste et performant, le tout à un faible coût. De plus, la logique floue est une approche d’approximation universelle imitant le raisonnement linguistique d’un humain de façon transparente et explicable, qui permet  selon un niveau de précision arbitraire et avec un très haut niveau d’efficacité,  n'importe quelle configuration non linéaire entre les entrées et les sorties souhaitées.

Cet ensemble de capacités a conduit la logique floue à remplacer de nombreux systèmes mathématiques et statistiques standards, en raison de sa capacité à atteindre des performances extrêmes, tout en étant robuste aux aléas, à l'incertitude et au bruit.

Des années de recherche chez Thales  ont permis de considérablement augmenter la capacité des systèmes basés sur la logique floue à traiter des problématiques extrêmement complexes de sorte à ce que le TrUE AI Toolkit puisse être utilisé pour créer des systèmes d'IA hautes performances, formellement vérifiés et fiables, pour des problèmes de haute dimensionnalité et entrainés selon n'importe quel technique d’apprentissage (renforcement, supervisé ou non).

L’IA doit être « explicable » pour un usage dans des systèmes critiques. Cependant, les méthodologies dîtes "boite noire", telles que les réseaux de neurones à apprentissage profond (DLNN), sont actuellement les principales approches d'IA étudiées. De nombreuses études ont été menées pour rendre les réseaux neuronaux plus explicables et plus fiables, grâce auxquelles des progrès ont été réalisés. Toutefois, ils se reposent principalement sur un deuxième système qui tente d'expliquer l'IA  boîte noire.

De plus, la recherche sur ce type d’IA n’adresse pas l'interprétabilité, une condition essentielle pour tirer le maximum de profit de la  vérification formelle. La technologie GFT de Thales est une solution AI/machine learning, qui par nature, peut être entièrement compréhensible, fiable et formellement vérifiée.

La vérification formelle consiste à utiliser des méthodes de spécification, de conception et d'analyse de systèmes pour la vérification d'algorithmes. Un des exemples des capacités de vérifications formelles du Thales AI toolkit est la possibilité de garantir mathématiquement le respect des exigences de safety.

Ces spécifications peuvent prendre de nombreuses formes telles que des exigences de conception, des procédures d'exploitation standard, des règles d'engagement de bas niveau ou internationales, etc.  Par exemple : "L'IA ne doit jamais ____" ou "Si les conditions d'état sont ____, la sortie de l'IA doit toujours se situer dans les plages ____ ou ____". En général, ces spécifications sont très distinctes selon le cas d'usage.

Par exemple, de nombreuses erreurs logicielles dans le domaine de l'aérospatiale et de la défense ont conduit à des catastrophes qui auraient pu être évitées grâce à la vérification formelle du système.

Les outils de méthodes formelles utilisés par Thales sont incorporés dans le processus de conception et de développement de notre toolkit IA. Lorsqu’une exigence n’est pas respectée, mettant en cause l’intégrité de l’ensemble des spécifications, des notifications sur les entrées et les valeurs intermédiaires sont fournies.  En raison de la nature interprétable du « Fuzzy Tree », ces erreurs peuvent être corrigées directement lors de l’apprentissage ou tout au long du cycle de mise au point, grâce à cette connaissance précise sur la manière dont l’IA répond à ces exigences et à quel niveau le système est affecté en cas de non-respect de ces mêmes exigences.

Le processus de conception du Thales AI toolkit combine l'analyse numérique traditionnelle pour les activités de test et d'évaluation, avec des capacités de vérifications formelles afin de fournir un niveau de fiabilité encore inégalé pour un système d'IA complexe.

Pour une licence de découverte, de développement ou de déploiement, veuillez télécharger notre brochure et nous contacter pour des informations complémentaires.