Robust covariance matrix estimation in signal processing

De nombreuses applications de traitement de signal nécessitent la connaissance de la matrice de covariance des données reçues. Lorsqu'elle n'est pas directement accessible, elle est estimée préalablement à l'aide de données d'apprentissage. Traditionnellement, le milieu est considéré comme gaussien. L'estimateur du maximum de vraisemblance est alors la sample covariance matrix (SCM). Cependant, dans de nombreuses applications, notamment avec l'arrivée des techniques haute résolution, cette hypothèse n'est plus valable. De plus, même en milieu gaussien, il s'avère que la SCM peut-être très influencée par des perturbations (données aberrantes, données manquantes, brouilleurs...) sur les données. Dans cette thèse nous nous proposons de considérer un modèle plus général, celui des distributions elliptiques. Elles permettent de représenter de nombreuses distributions et des campagnes de mesures ont montré leur bonne adéquation avec les données réelles, dans de nombreuses applications telles que le radar ou l'imagerie hyperspectrale. Dans ce contexte, nous proposons des estimateurs plus robustes et plus adaptés : les M-estimateurs et l'estimateur du point-fixe (FPE). Leurs performances et leur robustesse sont étudiées et comparées à celles de la SCM. Nous montrons ainsi que dans de nombreuses applications, ces estimateurs peuvent remplacer très simplement la SCM, avec de meilleures performances lorsque les données sont non-gaussiennes et des performances comparables à la SCM lorsque les données sont gaussiennes. Les résultats théoriques développés dans cette thèse sont ensuite illustrés à partir de simulations puis à partir de données réels dans le cadre de traitements spatio-temporels adaptatifs.In many signal processing applications, the covariance matrix of the received data must be known. If unknown, it is firstly estimated with some training data. Classically, the background is considered as Gaussian. In such a case, the maximum likelihood estimator is the Sample Covariance Matrix (SCM). However, due to high resolution methods or other new technics, the Gaussian assumption is not valid anymore. Moreover, even when the data are Gaussian, the SCM can be strongly influenced by some disturbances such as missing data and/or outliers. In this thesis, we use a more general model which encompasses a large panel of distributions: the elliptical distributions. Many campagns of measurement have shown that this model leads to a better modelling of the data. In this context, we present more robust and adapted estimators: the M-estimators and Fixed Point Estimator (FPE). Their properties are derived in terms of performance and robustness, and they are compared to the SCM. We show that these estimators can be used instead of the SCM with nearly the same performance when the data are Gaussian, and better performance when the data are non-Gaussian. Theoretical results are emphasized on simulations and on real data in a context of Space Time Adaptive Processing