Layer fluctuations and hexatic order in liquid crystals

In the smectic-A and hexatic-B phases, the layers are not planar but undergo large fluctuations. In order to find the effect of these fluctuations on the smectic-A-hexatic-B transition, we construct a Ginzburg-Landau Hamiltonian in terms of the hexatic order parameter ψ and the layer fluctuations u. The fields ψ and u are coupled because of the geometrical frustration introduced by the curvature of the layers. We integrate out the u field to obtain an effective Hamiltonian in terms of ψ alone. This integration leads to a finite renormalization of the coefficients in the effective Hamiltonian. By this mechanism, layer fluctuations may drive the smectic-A-hexatic-B transition to be first-order if the hexatic stiffness constants are sufficiently large. This effect may be related to observed anomalies in the specific heat at that transition.Dans les phases smectique-A et hexatique-B les couches ne sont pas planes mais présentent des fluctuations de grande amplitude. Afin de déterminer l'effet de ces fluctuations sur la transition smectique-A-hexatique-B nous construisons un hamiltonien de Ginzburg-Landau qui dépend du paramètre d'ordre hexatique ψ et des fluctuations u. Le couplage des champs ψ et u est dû à la frustration d'origine géométrique introduite par la courbure des couches. Nous intégrons les fluctuations u pour obtenir un hamiltonien effectif en fonction de ψ. Cette intégration produit une renormalisation finie des coefficients de l'hamiltonien effectif. Par ce mécanisme, la fluctuation des couches peut transformer la transition smectique-A-hexatique-B en une transition du premier ordre si les constantes de rigidité hexatiques sont assez grandes. Cet effet est peut-être apparenté aux anomalies de la chaleur spécifique observ6es expérimentalement à cette transition