Perforamances statistiques d'estimateurs non-linéaires

We work in the context of nonparametric estimation in the regression model. Firstly, we consider observations Y where the density $ g $ is known and depends on a regression function $ f (X) $ unknown. In this thesis, this function is assumed regular, i.e. belonging to a Hölder ball. The goal is to estimate the function $ f $ to a point $ y $ (pointwise estimation). For it, we develop a {\it local bayesian estimator}, constructed from the density $ g $ of the observations. We propose an adaptive procedure based on the Lepski's method, which allows to construct an adaptive estimator chosen from the family of {\it local bayesian estimators} indexed by the bandwidth. Under some sufficient assumptions on the density $ g $, our estimator achieves the adaptive optimal rate (in a particular sense). In addition, we remark that, in some models, the bayesian estimator is more efficient than linear estimators. Secondly, another approach is considered. We consider the additive regression model, where the density of the noise is unknown and assumed to be symmetric. In this framework, we develop the so-called {\it Huber estimator} based on the idea of the median ($ \ell_1 $ criterion). This estimator allows to estimate the regression function, for any density of the additive noise (for example : Gaussian density or Cauchy density). With the Lepski's method, we select an estimator that achieves the rate of conventional adaptive linear estimators on Hölder spaces without depends on the symmetric density of the noise.On se place dans le cadre de l'estimation non paramétrique dans le modèle de régression. Dans un premier temps, on dispose des observations Y dont la densité $g$ est connue et dépend d'une fonction de régression $f(X)$ inconnue. Dans cette thèse, cette fonction est supposée régulière, i.e. appartenant à une boule de Hölder. Le but est d'estimer la fonction $f$ à un point $y$ (estimation ponctuelle). Pour cela, nous développons un estimateur local de type {\it bayésien}, construit à partir de la densité $g$ des observations. Nous proposons une procédure adaptative s'appuyant sur la méthode de Lepski, qui permet de construire un estimateur adaptatif choisi dans la famille des estimateurs bayésiens locales indexés par la fenêtre. Sous certaines hypothèses suffisantes sur la densité $g$, notre estimateur atteint la vitesse adaptative optimale (en un certain sens). En outre, nous constatons que dans certains modèles, l'estimateur bayésien est plus performant que les estimateurs linéaires. Ensuite, une autre approche est considérée. Nous nous plaçons dans le modèle de régression additive, où la densité du bruit est inconnue, mais supposée symétrique. Dans ce cadre, nous développons un estimateur dit de {\it Huber} reposant sur l'idée de la médiane. Cet estimateur permet d'estimer la fonction de régression, quelque soit la densité du bruit additif (par exemple, densité gaussienne ou densité de Cauchy). Avec la méthode de Lepski, nous sélectionnons un estimateur qui atteint la vitesse adaptative classique des estimateurs linéaires sur les espaces de Hölder