Subdifferential determination, Faces Radon-Nikodym property, and differential structure of prox-regular sets

Ce travail est divisé en deux parties: Dans la première partie, on présente un résultat d'intégration dans les espaces localement convexes valable pour une longe classe des fonctions non-convexes. Cela nous permet de récupérer l'enveloppe convexe fermée d'une fonction à partir du sous-différentiel convexe de cette fonction. Motivé par ce résultat, on introduit la classe des espaces "Subdifferential Dense Primal Determined" (SDPD). Ces espaces jouissent des conditions nécessaires permettant d'appliquer le résultat ci-dessus. On donne aussi une interprétation géométrique de ces espaces, appelée la Propriété Radon-Nikod'ym de Faces (FRNP). Dans la seconde partie, on étudie dans le contexte d'espaces d'Hilbert, la relation entre la lissité de la frontière d'un ensemble prox-régulier et la lissité de sa projection métrique. On montre que si un corps fermé possède une frontière C^{p+1}-lisse (avec p≥1), alors sa projection métrique est de classe C^p dans le tube ouvert associé à sa fonction de prox-régularité. On établit également une version locale du même résultat reliant la lissité de la frontière autour d'un point à la prox-régularité en ce point. On étudie par ailleurs le cas où l'ensemble est lui-même une C^{p+1}-sous-variété. Finalement, on donne des réciproques de ces résultats.This work is divided in two parts: In the first part, we present an integration result in locally convex spaces for a large class of nonconvex functions which enables us to recover the closed convex envelope of a function from its convex subdifferential. Motivated by this, we introduce the class of Subdifferential Dense Primal Determined (SDPD) spaces, which are those having the necessary condition which allows to use the above integration scheme, and we study several properties of it in the context of Banach spaces. We provide a geometric interpretation of it, called the Faces Radon-Nikod'ym property. In the second part, we study, in the context of Hilbert spaces, the relation between the smoothness of the boundary of a prox-regular set and the smoothness of its metric projection. We show that whenever a set is a closed body with a C^{p+1}-smooth boundary (with p≥1), then its metric projection is of class C^{p} in the open tube associated to its prox-regular function. A local version of the same result is established as well, namely, when the smoothness of the boundary and the prox-regularity of the set are assumed only near a fixed point. We also study the case when the set is itself a C^{p+1}-submanifold. Finally, we provide converses for these results