FOUNDRY - Les fondements de la robustesse et de la fiabilité en intelligence artificielle

Responsable projet : Panayotis Mertikopoulos, Chargé de recherche CNRS

Membres impliqués : Inria, CNRS de l’Université de Lille CRIStAL

Équipe : SCOOL du Groupe Thématique : DatInG

Résumé :

Le projet FOUNDRY met en exergue la notion de robustesse, qui a échappé au domaine depuis ses débuts. La cause en est la suivante : les systèmes d’apprentissage automatiques sont très gourmands en données et très sensibles aux exemples qui leur sont fournis, ce qui fragilise et les limite dans leur champ d’application.

L’objectif est donc de développer les fondements théoriques de cette robustesse et de cette fiabilité.

Abstract

The core vision of FOUNDRY is that robustness in AI – a desideratum which has eluded the field since its inception – cannot be achieved by blindly throwing more data and computing power to larger and larger models with exponentially growing energy requirements. Instead, we intend to rethink and develop the core theoretical and methodological foundations of robustness and reliability that are needed to build and instill trust in ML-powered technologies and systems from the ground up.