Super-resolution algorithms for laser scanning microscopy with illumination patterns shaped by conical diffraction

Cette thèse s'intéresse à des techniques non linéaires de reconstruction d'images, appliquées au problème de la super-résolution en microscopie, qui vise à dépasser la limite de résolution de Abbe en combinant des techniques de mesure et de traitement d'images. Nous considérons un système à fluorescence avec une méthode d'Image Scanning Microscopy (ISM), produisant des micro-images obtenues en scannant un échantillon biologique et en y projetant une distribution lumineuse. La forme de cette distribution peut être assez singulière lorsqu'elle est créée par un modelage de faisceau laser, rendu possible grâce à un phénomène optique appelé diffraction conique. Un cadre mathématique s'appuyant sur la transformée de Fourier à quatre dimensions est proposé, permettant de comparer théoriquement les méthodes ISM, en quantifiant leur impact en terme de résolution. Nous considérons également la modélisation mathématique exacte de ces méthodes et en particulier les questions de discrétisation, permettant ensuite de simuler un système ISM. Cette modélisation est indispensable lorsque l'on cherche à résoudre le problème inverse induit par la super-résolution. Nous abordons sa résolution avec des contraintes très faibles, à savoir uniquement la positivité de l'image recherchée. Nous mettons en évidence un artefact, appelé night sky, produit par l'estimateur du Maximum A Posteriori (MAP). Nous montrons néanmoins que cet artefact peut être évité en imposant à l'image super-résolue d'être à bande limitée, contrainte convexe qui peut être ajoutée à la positivité moyennant un algorithme de projection adapté. Nous introduisons ensuite un nouvel estimateur, le E-LSE, pour Emitters-Least-Square Error, qui minimise l'erreur quadratique moyenne a posteriori et qui est adapté aux images parcimonieuses, une caractéristique souvent satisfaite par les images biologiques obtenues en microscopie à fluorescence. Nous montrons qu'en dépit de la dimension élevée et du caractère non convexe de la contrainte de parcimonie, cet estimateur E-LSE peut-être évalué numériquement par un algorithme de type MCMC (Markov chain Monte Carlo). L'estimateur E-LSE permet de limiter certains artefacts spécifiques du MAP et, sur plusieurs exemples, produit une image mieux résolue.This thesis focuses on non-linear image reconstruction methods applied to super-resolution in microscopy, which aims to overcome Abbe resolution limit by combining specific acquisition and image processing techniques. We consider a fluorescence Image Scanning Microscopy (ISM) system, which scans a biological sample with a particular light distribution and records a micro-image at each scan position. This specific light distribution is created by shaping a laser beam thanks to an optical phenomenon called conical diffraction. We propose a mathematical framework based on a four-dimensional Fourier transform, which enables us to provide a theoretical comparison of the different ISM methods in terms of resolution gain. We also address the exact mathematical modelling of these methods, and in particular the discretization issues involved in the simulation of an ISM system. These questions indeed play an essential role for the super-resolution system we study, naturally written as an inverse problem. We first consider a formulation with very little constraints by imposing only the positivity of the reconstructed image. We show that in that case, the Maximum A Posteriori (MAP) estimate suffers from an artifact called {\it night sky}, but it can be avoided by imposing an additional band-limitedness constraint on the reconstructed image. The two resulting convex constraints can be simultaneously handled by means of a specific projection algorithm. We then introduce a new estimator, called E-LSE (for Emitters-Least-Square Error), which minimizes the a posteriori mean square error and is particularly suited to sparse samples, which are often encountered in fluorescence microscopy. Despite the very high dimension of the problem and the non-convexity of the sparsity constraint, this E-LSE estimator can be numerically computed with an MCMC (Markov Chain Monte Carlo) algorithm. We show that it outperforms the MAP estimate in terms of artifacts and, on several examples, produces a better-resolved image