Thèse de Pierrick Pochelu

Ensembles de réseaux de neurones répartis et parallèles appliqués au domaine de l'énergie

L'apprentissage ensembliste de réseaux de neurones profonds (Deep Neural Network - DNN) combine les prédictions de plusieurs DNN pour améliorer les performances de résultats obtenus à l’aide d’un réseau unique (DNN) notamment en réduisant l'erreur de généralisation. Ces techniques d’ensemble ont le potentiel d'améliorer des applications complexe et stratégique ML en particulier celles du domaine de l’énergie. Cependant, implémenter efficacement ces techniques d’ensembles soulèvent plusieurs questions: Comment orchestrer efficacement les différentes étapes du cycle de vie des ensembles de DNN (apprentissage, inférence) en vue d’une exécution globale performante tirant partie des infrastructures HPC. Comment entrainer plusieurs DNN indépendants, sélectionner un ensemble performant, et exposer les prédictions de l'ensemble construit pour des applications clientes. Dans ce travail, nous proposons des procédures pour construire un ensemble précis de DNN avec de multiples accélérations des étapes son cycle de vie. Nos procédures garantissent de trouver automatiquement de bons ensembles en se basant sur la diversité des DNN, leur précision individuelle et optimisation du coût de calcul de l'ensemble. En ce qui concerne les deux objectifs qualité des prédictions et la vitesse d'inférence, nous avons découvert que notre procédure construit des ensembles de DNN dont le résultat de prédiction apporte un gain significatif (rapidité, précision des prédictions, reproductibilité, économie en consommation de ressources) supérieur par rapport à l’utilisation d’un DNN unique. Ces technologies ont été implémentées au sein de l’entreprise, sur des cas d’usages concrets et opérationnels (classification d’images, contrôle optimal d’installation par renforcement learning). L’application sur ces cas d’usage, entre dans la stratégie de l’entreprise son orientation vers la production d’énergie décarbonée.

Jury

M. Serge PETITON - Université de Lille - Directeur de thèse Mme Cecile PEREIRA - TotalEnergies - Examinatrice M. Joel SALTZ - Stony Brook University - Rapporteur Mme Laurence DUCHIEN - Université de Lille / Laboratoire CRIStAL - Examinatrice M. Michel DAYDé - CNRS IRIT Toulouse INP - Rapporteur Mme France BOILLOD-CERNEUX - Commissariat à l’énergie atomique et aux énergies alternatives (CEA), Direction de la Recherche Fondamentale (DRF) - Examinatrice M. Pierre SENS - Sorbonne Université - Examinateur M. Bruno CONCHE - TotalEnergies SE - Invité

Thèse de l'équipe CFHP soutenue le 13/06/2022