Une exploration des problèmes inverses par les représentations parcimonieuses et l'optimisation non lisse

This work describes some modern tools and results to solve large-scale inverse problems in signal and image processing (but not only). These problems are formalized in a unified and versatile framework, by building on the triad : (i) stochastic approaches for modelling and estimation of signals and images ; (ii) low complexity regularization models for signals and images ; (iii) non smooth optimization. These ingredients form the theoretical foundations of this work that allowed us to understand and formulate novel models that capture the complexity of natural images, and to propose provably guaranteed solutions to open and challenging inverse problems in image and signal processing (e.g. restoration, deconvolution, inpainting, sparse source decomposition and separation, sparse recovery and compressed sensing). The pursuit of challenging applications is also at the heart of this work, and we targeted those in medical and astronomical imaging.Ce mémoire résume mon parcours de recherche lors des dix dernières années. Ces travaux de recherche se trouvent à la croisée des chemins entre les mathématiques appliquées et le traitement du signal et des images. Ils s'articulent autour du triptyque: (i) modélisation stochastique-estimation statistique; (ii) analyse harmonique computationnelle-représentations parcimonieuses; (iii) optimisation. Ces trois piliers constituent le socle théorique de mes activités pour développer des approches originales capables de résoudre des problèmes classiques en traitement d'images comme les problèmes inverses en restauration et reconstruction, la séparation de sources, la segmentation, la détection, ou encore la théorie de l'échantillonnage compressé (compressed sensing). Ces travaux ont été appliqués à plusieurs modalités d'imagerie comme l'imagerie médicale et biomédicale (IRM fonctionnelle, échographie, microscopie confocale), le contrôle non destructif et l'imagerie astronomique