Programme « Confiance ai » : des premiers résultats significatifs

le programme Confiance.ai, lancé en janvier 202, affiche une dynamique soutenue et dévoile ses premiers résultats à l’occasion de la première Journée annuelle qui se tient à Toulouse.

Impulsé par un collectif de 13 industriels et académiques français , ce programme de 45 millions d’euros sur 4 ans ambitionne de relever le défi de l’industrialisation de
l’intelligence artificielle (IA) dans les produits et services critiques.

Une première version de l’environnement de confiance d’ici la fin de l’année intégrant plus de 20 composants technologiques ou méthodologiques.

Pour relever ces défis, les partenaires du programme se sont concentrés sur 6 premiers cas
d’usage : la compréhension de scènes à partir d’une caméra, l’inspection par vision de soudure, la
prédiction de demande en air liquide, l’interprétation de photos aériennes, le controle industriel
visuel, ou encore l’évitement des collisions aériennes pour les systèmes d’aéronefs téléguidés.
Ces cas d’usages pratiques ont permis d’évaluer la pertinence de 20 premiers composants
technologiques ou briques méthodologiques (ex : évaluation de la robustesse de réseau de
neurones, quantification d’intervalles de confiance de prédictions, génération des modèles
robustes à certaines perturbations, méthodes pour construire et caractériser les jeux de données,
etc.), d’ores et déjà intégrés dans la première version de l’environnement de confiance
développée et qui sera mise à la disposition des partenaires d’ici la fin de l’année. Cet
environnement a vocation à terme d’offrir une plateforme d’outils logiciels souveraine, ouverte,
intéropérable et pérenne au service de la conception, de la validation, de la qualification, du
déploiement et de la maintenance de produits et services critiques à base d’IA.
Un écosystème de plus 40 partenaires d’ici la fin de l’année
Confiance.ai s’inscrit dans une démarche ouverte et intégrative. Le programme développe et
fédère aujourd’hui l’écosystème national autour de l’IA de confiance et s’est ouvert à de nombreux
partenaires associés.
Au-delà des 13 acteurs structurants du programme, 11 laboratoires ont rejoint récemment le
collectif après avoir été sélectionnés dans le cadre d’un AMI (appel à manifestation d’intérêt)
centré sur les défis scientifiques : Institut de mathématiques de Toulouse – ANITI, CRIL –
Université d’Artois, CRISTAL – CNRS, LAMIH/UPHF / CRISTAL – Université de Lille, Inria KAIROS,
IRIT – Université de Toulouse, LIP6 – Sorbonne Université, LITEM – Medial Lab – IMT, LITIS – Insa
Rouen, ONERA et U2IS – ENSTA Paris. Ils contribueront à la montée en maturité de travaux
scientifiques ou à la résolution de verrous scientifiques amont, le plus souvent sous la forme de
thèse ou de doctorat. Le programme compte déjà à ce jour 9 thèses et 4 Postdocs.
D’autres partenaires tels que Apsys, LNE, Numalis et l’ONERA sont également venus renforcer le
programme, en apportant leurs expertises et technologies.
Un autre AMI à destination des start-ups deeptech et PME innovantes lancé en juillet dernier
devrait permettre d’intégrer une dizaine de pépites françaises au programme dès le 4ème trimestre
2021.
Au total, un puissant collectif de plus de 40 partenaires collaborera sur les sites de Paris Saclay et
de Toulouse, deux places importantes de l’IA de confiance, autour de l’élaboration de cet
environnement de confiance où chacun pourra tirer de la valeur de ces travaux. Confiance.ai a la
chance de pouvoir s’appuyer sur cet écosystème et en particulier sur le programme Franco-
Québécois DEEL, le 3IA Aniti et l’initiative DataIA.
Un programme qui contribue au projet de règlementation européenne « AI Act » de la Commission
Européenne
La commission européenne a proposé un cadre juridique afin de promouvoir une IA de confiance.
Toutefois, sa mise en œuvre opérationnelle nécéssite le dévéloppement de solutions techniques
permettant aux industriels d’y répondre. Confiance.ai permettra ainsi de créer un environnement
technique (sur la certification, la fiabilité, l’évaluation, la transparence et l’auditabilité des
algorithmes et des systèmes) qui garantira, demain, un haut de niveau de confiance dans les
technologies d’IA.