À Sophia Antipolis, une partie de la prochaine étape de l’intelligence artificielle se joue sur une difficulté moins visible que les performances spectaculaires des nouveaux modèles : leur capacité à rester fiables quand les données changent, deviennent incomplètes ou ne ressemblent plus à celles utilisées pendant leur apprentissage.
C’est sur cette question que travaille Michael Arbel, chercheur lié à l’écosystème de recherche numérique des Alpes-Maritimes, après avoir obtenu une bourse du Conseil européen de la recherche (ERC) pour son projet COMFORMAL. Le programme cherche à développer de nouvelles bases théoriques pour rendre les modèles d’apprentissage automatique plus robustes.
Cette question est au cœur du passage de l’IA expérimentale aux usages réels. Un modèle peut être très performant sur les données qui ont servi à l’entraîner, puis perdre en fiabilité face à une situation différente : une image prise dans de mauvaises conditions, un changement dans les comportements des utilisateurs ou des informations moins propres que prévu.
Le problème est particulièrement important dans les domaines où une erreur coûte cher, comme l’industrie, la santé, les services publics ou les systèmes autonomes. La difficulté n’est donc plus seulement de créer des modèles capables d’apprendre, mais de comprendre dans quelles conditions ils restent dignes de confiance.
Le projet soutenu par l’ERC relève encore de la recherche. La bourse finance une exploration scientifique visant à améliorer les fondements de l’apprentissage automatique, pas une solution déjà disponible pour les entreprises ou le grand public.
C’est ce qui donne son intérêt local au sujet. Sophia Antipolis accueille depuis plusieurs décennies des équipes qui travaillent sur les sciences numériques, l’intelligence artificielle et les systèmes complexes. Le territoire ne développe pas seulement des applications numériques : il abrite aussi des recherches qui cherchent à résoudre les limites techniques de ces technologies.
La fiabilité de l’IA est devenue un axe de recherche à l’échelle européenne, avec un intérêt croissant pour l’évaluation des modèles, leur comportement dans des situations imprévues et la compréhension de leurs limites.
Pour l’instant, le résultat le plus concret est donc une capacité de recherche renforcée plutôt qu’une application visible. Mais c’est précisément sur ce type de difficulté technique que se joue une partie de l’avenir de l’IA : rendre les systèmes suffisamment robustes pour fonctionner dans des environnements où l’erreur n’est pas simplement un défaut informatique.
À Sophia Antipolis, les chercheurs travaillent moins à rendre l’IA plus spectaculaire qu’à comprendre comment la rendre plus fiable lorsque les machines rencontrent la complexité du monde réel.