Nous suivre Industrie Techno

Avec Confiance.ai, 9 industriels et 4 académiques relèvent le Grand Défi de l'intelligence artificielle de confiance

MANUEL MORAGUES
Soyez le premier à réagir

Soyez le premier à réagir

Avec Confiance.ai, 9 industriels et 4 académiques relèvent le Grand Défi de l'intelligence artificielle de confiance

Les représentants du programme Confiance.ai ont dévoilé leur projet le 1er juillet à Créteil.

© Gil lefauconnier

Pouvoir intégrer l'intelligence dans les systèmes critiques des transports en toute confiance. Voilà l'objectif des 13 acteurs industriels et académiques chargés de relever le Grand Defi de l'IA de confiance à travers le programme Confiance.ai dévoilé ce 1er juillet à Créteil.

« Quand il s'agit de recommander un film, une erreur de l'intelligence artificielle (IA) n'est pas dramatique. Mais quand l'IA est embarquée dans le système critique d'un avion ou préconise un médicament, on doit pouvoir lui faire confiance. » David Sadek, vice-président Recherche, Technologie & Innovation en charge notamment de l'IA chez Thales, résume l'enjeu du « Grand défi » sur l'IA de confiance. Un enjeu majeur quand l'IA promet de transformer les systèmes critiques, de la voiture autonome à l'avionique en passant par les dispositifs médicaux.

Des représentant d'un collectif composé de 13 acteurs majeurs de l'industrie et de la recherche académique ont expliqué comment ils comptaient relever ce défi, jeudi 1er juillet en présence du secrétaire d'Etat au Numérique, Cédric O, et du ministre délégué chargé des Transports, Jean-Baptiste Djebbari, lors d'un événement qui s'est déroulé sur le nouveau centre de R&D de Valéo de Créteil dédié à l'aide à la conduite et au confort.

Intégrer l'IA dans les systèmes critiques

Avec 45 millions d'euros de financement sur quatre ans, leur programme baptisé Confiance.ai « est le plus important programme de recherche technologique de la stratégie nationale en IA», relève Julien Chiaroni, directeur de ce grand défi pour le Secrétariat général pour les investissements (SGPI). « Quelque 80 à 100 personnes s'y consacreront pendant quatre ans», précise-t-il. Des chercheurs de l'Inria, du CEA et les instituts de recherche technologique Saint-Exupéry et SystemX travailleront avec Airbus, Air Liquide, Atos, Naval Group, Renault, Safran, Sopra-Steria, Thales et Valeo.

Pour les industriels, l'objectif est clair : pouvoir intégrer l'IA dans leurs systèmes critiques. Ce qui représente bien un défi : « L'IA n'est pas au niveau pour embarquer dans un avion», tranche Emmanuelle Escorihuela, présidente du comité de pilotage de Confiance.ai et chargé de la transformation IA des systèmes chez Airbus. Pointant la révolution apportée par le deep learning, cette ingénieure systèmes ajoute  : « Les réseaux de neurones, c'est un peu miraculeux. Mais on ne peut pas compter sur des miracles dans notre industrie, il faut passer à des processus maîtrisés. Pour cela, des verrous scientifiques restent à lever. »

Vocation industrielle et approche système

Si recherche et industrie collaboreront, l'objectif est clairement industriel.  « Ce n'est pas un programme de recherche, c'est un programme qui se source à la recherche de pointe mais qui a une vocation industrielle, martèle David Sadek, de Thales. Confiance.ai doit fournir des outils, processus et méthodes au niveau industriel permettant de s'assurer que les systèmes d'IA satisfont les critères de confiance que sont notamment la sécurité, la fiabilité et l'explicabilité. »

L'originalité du projet tient à son approche système : « Confiance.ai est unique, du moins en Europe. D'autres programmes visent certains éléments comme l'explicabilité. Nous, nous pensons qu'il faut mettre la confiance dans toutes les briques de systèmes», souligne Julien Chiaroni, du SGPI. « Il faut qu'à chaque étape de la conception d'un système, des spécifications à l'implémentation, on puisse être mesure de prouver que le système final fera ce qu'il doit faire et uniquement ce qu'il doit faire», renchérit Emmanuelle Escorihuela, d'Airbus.

Premier lot de résultats en octobre prochain

Confiance.ai est déjà en marche, ses membres travaillant déjà depuis au moins le début de l'année, selon des participants interrogés en marge de l'événement. Un premier lot de résultats doit être présenté le 6 octobre prochain à l'IRT toulousain Saint-Exupéry. Un rendez-vous qui a vocation à être annuel, tout comme la présentation de résultats.

Enfin, aux industriels et aux chercheurs devrait se joindre un troisième type d'acteurs : des start-up et PME innovantes. Un appel à manifestation d'intérêt a été lancé à leur intention, qui doit être présenté plus en détails le 9 juillet selon Mohammed Sijelmassi. Le directeur technique de Sopra Steria encourage fortement les candidats : intégrer Confiance.ai permettra « de s'exposer à de vrais cas d'usage » et de bénéficier de financements. Et « candidater ne prendra pas trop de temps, ajoute-t-il : nous voulons embarquer les équipes des PME et start-up retenues dès la fin septembre. » Les enjeux industriels sont trop importants pour traîner en route.

Bienvenue !

Vous êtes désormais inscrits. Vous recevrez prochainement notre newsletter hebdomadaire Industrie & Technologies

Nous vous recommandons

L’Inria et l’Inserm renforcent leurs liens sur la question du numérique appliqué à la santé

L’Inria et l’Inserm renforcent leurs liens sur la question du numérique appliqué à la santé

60 millions d’euros sont alloués à un Programme et équipements prioritaires de recherche (PEPR) sur la santé et le[…]

« Le Zero Trust est la seule façon réaliste de protéger son réseau aujourd’hui », avance Bernard Ourghanlian directeur technique et sécurité à Microsoft France

« Le Zero Trust est la seule façon réaliste de protéger son réseau aujourd’hui », avance Bernard Ourghanlian directeur technique et sécurité à Microsoft France

Trois plateformes XDR lancées lors des Assises de la cybersécurité

Trois plateformes XDR lancées lors des Assises de la cybersécurité

Comment Owkin entraîne des modèles d'IA sans transférer les données avec le federated learning

Comment Owkin entraîne des modèles d'IA sans transférer les données avec le federated learning

Plus d'articles