Stress tensor modeling using 3D convolutionnal neural networks in homogeneous isotropic turbulence

La modélisation numérique de la turbulence est une des approches classiques pour étudier la complexité de la dynamique des échelles actives dans un écoulement turbulent. La richesse des mécanismes œuvrant dans ces écoulements rend quasiment impossible la prise en compte de l'ensemble des phénomènes inter-échelles. Des méthodes numériques simplifiées ne résolvant que la dynamique aux grandes échelles sont proposées ; l'influence des petites échelles sur la dynamique des grandes échelles étant introduite par une modélisation physique « sous mailles ». Ces modèles numériques se sont complexifiés et améliorés parallèlement aux progrès de l'algorithmie, des capacités des ordinateurs et de la compréhension des phénomènes physiques décrits par les équations de Navier-Stokes. C'est dans ce contexte qu'est né le développement de méthodes numériques couplées avec l'intelligence artificielle (IA) afin de tenir compte de manière plus fiable de la physique non résolue. Les travaux développés dans ce manuscrit apportent à la communauté de la mécanique des fluides un corpus de définitions et de méthodes permettant une exploitation plus optimale du potentiel des IA en adéquation avec la pluralité et la richesse des échelles que les écoulements turbulents exhibent. Nous discutons des composants principaux des réseaux de neurones tels que les non-linéarités induites par les fonctions d'activation, les fonctions de coût ainsi que les algorithmes d'optimisation des poids du réseau. Les propriétés, les attentes et les limites de ces hyperparamètres sont étudiées pour les optimiser. Nous avons ainsi combiné l'activation Mish avec une fonction coût multi-échelle tout en optimisant les poids du réseau avec l'algorithme Nadam. Les réseaux à convolutions profonds nécessitent une construction minutieuse. À ce titre, nous apportons les éléments nécessaires pour comprendre la complexité de l'apprentissage. Nous traitons de l'abstraction des patterns identifiés, à la propagation de l'information dans le réseau, en passant par d'autres concepts. Cette conversation s'articule autour des particularités de l'architecture U-net utilisée dans ce manuscrit. Ces travaux montrent qu'il est possible d'apprendre la relation entre le champ de vitesse 3D filtré brute, et les composantes du tenseur de stress décrivant les interactions entre échelles résolues et non résolues. C'est aussi une des solutions les plus précises proposée à ce jour. En effet, que nous regardions la prédiction ou les grandeurs dérivées - sa divergence et sa contraction avec le champ de déformations - il apparaît que les corrélations de ces grandeurs avec leurs homologues théoriques oscillent entre 90 et 99% surclassant le modèle de Clark. Il s'avère également que les performances ne sont que très peu perturbées par une augmentation de 50 ou de quasiment 200% du Reynolds. Afin d’affiner l'analyse vers l'interprétation physique des résultats, nous décomposons le tenseur prédit en trois tenseurs conformément à l'idée Leornard. Les interactions entre les échelles résolues et non résolues portées par les deux premiers termes sont mieux appréhendées par le réseau de neurones que par la modélisation de Clark. Le tenseur prédit montre une meilleure appréhension des interactions entre les échelles non résolues que le modèle de Clark ne le permet. Cela confirme que l'IA a construit une correspondance physiquement viable entre champ de vitesse filtré et tenseur de stress. Au fil de ce manuscrit, nous tentons d'apporter un point de vue critique aussi bien sur les méthodes que sur les résultats, leurs implications et leurs étendues. Le modèle hybride présenté s'inscrit dans un domaine en pleine expansion autour de la mécanique des fluides. Il élargit l'application de la modélisation numérique de la Turbulence au-delà de notre compréhension, intuition de la Physique, ou encore des capacités des ordinateurs actuels en construisant des modèles numériques plus rapides et plus fiables.Numerical modeling of Turbulence is one of the classical approaches for studying active scales dynamic in a turbulent flow. The interactions between the different scales of motion featured by any turbulent flow is currently mathematically and numerically intractable. Instead numerical reduced models have been proposed : large-scale motions are resolved using the large eddy equations whereas small-scale influence is modeled and injected into the large-scale dynamic.Numerical modeling is brought to grow in complexity along the progress made in connected fields (such as Algorithmics), the computer power increase and theoretical understanding of the physical phenomena lying beneath the Navier-Stokes equations. This background leads to the coupling of computational fluid mechanics (CFD) and to methods based on artificial intelligence (AI) aiming to model non solved scales impacts on large scale motions. This work brings to the CFD community a corpus of definitions and methods promoting a more optimal use of the AI potential on one hand. On the other hand, we provide a framework allowing to deal with the variety of scales. We discuss of the neural network main components such as nonlinearities induced by activation function, cost functions as well as network's weights optimization algorithms. Properties, expectations and limitations of these hyper-parameters are studied. Based on that work, we combine the Mish activation function with a custom multi-scale cost function with the Nadam network optimization algorithm. Deep convolutionnal neural network models have to be cautiously designed. We therefore provide elements to understand the complexity of the learning task. We go from pattern abstractions to information flow, dealing with vanishing gradients and so on. This discussion is based on the U-net architecture we used. Our works highlight the fact that learning the stress tensor that describes the non resolved - resolved/non resolved interactions from the almost raw 3D filtered velocity field is possible and is one the most accurate solutions that's been proposed to date. This is true both on the prediction itself and on the derived quantities - its divergence and its contraction with the filtered strain rate tensor. The AI based quantities correlations with their expected counterparts oscillates between 90 and 99% outperforming the Clark model. This performance isn't bound to the simulation used for the learning nor to its Reynolds; we show that the machine learning based model accuracy doesn't seem to be affected by the increase on the Reynolds number of 50 or almost 200%. To perform a deeper analysis and try to ``physically'' interpret results, we perform Leonard's decomposition to identify three parts in the stress tensor. The interactions between resolved and non resolved scales carried by the two first terms are better apprehended by the neural network than the Clark model; the predicted tensor captures much more information about interactions between non resolved scales than the algebraic model. This confirms that the machine learning model found a physics compatible mapping between filtered velocity field and stress tensor. Throughout the manuscript, we tried to give a critical point of view on the methods and their results, theirs involvements or their validity. This coupling widens CFD scope and proposes to overcome the limitation of our current understanding of the physics, of current computer capacity to construct faster and more reliable numerical models