Instabilités agéostrophiques des écoulements baroclines dans l'atmosphère et dans l'océan et leur évolution non-linéaire

For the atmosphere and oceans, which are forced mostly at low frequency, there is a time-scale separation leading to a weak coupling between the slow balanced and fast unbalanced components of the dynamics. Ageostrophic instabilities may provide a route to escape this separation and couple balanced and unbalanced motions. To understand these mechanisms systematic linear stability analyses in a two-layer rotating shallow water model are provided. A focus is made on the Rossby-Kelvin (RK) instability in a rectilinear channel and in the annulus for comparison with the experiments. We demonstrate the existence of crossover regions where baroclinic and RK compete having similar growth rates. We then revisit the linear stability problem for coastal currents and study various instabilities due to resonances between vortical (Rossby-like), frontal and coastal trapped waves. The nonlinear evolution of these instabilities is then studied in the shallow-water approximation with the help of high-resolution DNS and in a continuously stratified fluid using a mesoscale model. It is shown that saturation for the RK instability and the Kelvin-frontal (KF) instability is achieved through the breaking of the Kelvin mode forming a Kelvin front and leading to inertia-gravity waves and reorganization of the mean flow through dissipative and wave-meanflow interaction effects. We also show for coastal curents how nonlinear saturation of the ageostrophic instabilities and reorganization of the potential vorticity field lead to coherent vortex structures appearing and eventually detaching from the coast.Les écoulements atmosphériques et océaniques sont habituellement séparés en une partie lente, proche de l'équilibre géostrophique, et une partie rapide qui interagissent faiblement. Les instabilités agéostrophiques procurent néanmoins un mécanisme capable de coupler les mouvements équilibrés et non-équilibrés. L'étude de tels mécanismes dans cette thèse est d'abord effectuée par des études systématiques de stabilité linéaire dans le modèle de l'eau peu profonde. L'instabilité de Rossby-Kelvin (RK), issue du couplage barocline d'une onde de Rossby (équilibrée) et d'une onde de Kelvin ou de Poincaré (non-équilibrées), est mise en évidence dans un canal. Ces résultats sont étendus à un anneau en géométrie cylindrique et montrent que dans les configurations proches des dispositifs expérimentaux il peut y avoir une compétition entre l'instabilité RK et l'instabilité barocline classique. Les instabilités des courants côtiers, caractérisés par la présence d'un bord vertical et d'un "outcropping", sont ensuite étudiées de manière exhaustive. Les instabilités dues à l'interaction d'un mode frontal et d'une onde de Kelvin (KF) ou d'une onde de Rossby (RF) sont mises en évidence. Le développement non-linéaire de ces instabilités est étudié dans le modèle de l'eau peu profonde par une méthode numérique aux volumes finis et dans un fluide continument stratifié à l'aide d'un modèle méso-échelle. Ces simulations montrent que les instabilités RK et KF ont un développement non-linéaire marqué par une croissance à amplitude finie et une saturation. Le déferlement de l'onde de Kelvin conduit alors à la formation d'un front de Kelvin, zone localisée de mélange et de dissipation, à l'émission d'ondes d'inertie-gravité et à la réorganisation de l'écoulement moyen. Dans le cas des courants côtiers cette réorganisation est suivie du développement d'une instabilité secondaire qui conduit à la formation et au détachement de vortex