Contribution à l’optimisation des systèmes de transmission optiques cohérents (Nx100 Gbit/s) utilisant le multiplexage en polarisation par des formats de modulation en phase et une conception de ligne limitant l’impact des effets non-linéaires

The ever-increasing demand of capacity in very high bit rate coherent optical transmission systems has paved the way towards the investigation of several techniques such as the use of ultra-low loss fibers, Erbium doped fiber amplifiers, polarization and wavelength division multiplexing (WDM), coherent detection, multi-level modulation formats, spatial division multiplexing, etc. However, there are questions concerning polarization division multiplexing and a development towards some advanced modulation formats including phase modulation and polarization division multiplexing. In this thesis, in order to increase the capacity-by-distance product of future optical coherent systems using wavelength and polarization division multiplexing, we first study spectral shaping of the transmitted signals to increase the information spectral density. For this purpose, we have numerically investigated the multi-channel transmission performance of Polarization Switched Quadrature Phase Shift Keying (PSQPSK) and we have compared it to the performance of Polarization-Division-Multiplexed QPSK (PDM-QPSK), using Root Raised Cosine (RRC) spectral shaping, in the context of a flexible channel grid. In addition we have presented the advantage of PS-QPSK against PDM-QPSK as a function of the system parameters, while we have also discussed the benefit of a RRC spectral shaping against a tight filtering at the transmitter side with a 2nd order super-Gaussian-shaped filter. Furthermore, we have focused on nonlinear effects that limit the transmission distance by degrading the transmitted symbols during propagation. Analyzing and reducing the impact of nonlinear effects is essential when using technologies that increase the information spectral density such as polarization division multiplexing which causes new nonlinear effects due to additional interactions between symbols during the propagation through the fiber. Therefore a reduction of the impact of nonlinear effects is necessary for the development of future systems with higher bit rates of 400 Gbit/s and 1 Tbit/s per channel. We have established in this thesis, design rules to reduce the impact of nonlinear effects in the optical WDM transmission systems at 100 Gbit/s per channel that use polarization multiplexingLa demande en capacité liée à la transmission de tout type d’information (voix, vidéos, données, etc.) ne cesse de croître. Afin de répondre à cette demande croissante, de nouvelles générations de systèmes de communication multiplexés en longueur d’onde transmettant des débits élevés d’information par canal (100 Gbit/s ou plus) doivent être conçues. En plus des fibres ayant de très faibles pertes, des amplificateurs à fibre dopée à l’Erbium et du multiplexage en longueur d’onde, des technologies sont mises en place, comme notamment le multiplexage en polarisation, la détection cohérente, les formats de modulation multi-niveaux et plus récemment le multiplexage spatial. Des interrogations résident sur l’impact du multiplexage en polarisation ainsi qu’un développement vers des formats de modulation plus évolués incluant modulation de phase et multiplexage en polarisation. Dans cette thèse, afin de contribuer à l’augmentation du produit capacité x distance dans les systèmes de transmission Nx100 Gbit/s par fibre optique également multiplexés en polarisation et utilisant la détection cohérente, nous avons étudié d’une part, la mise en forme spectrale des signaux à l’émission pour augmenter la densité spectrale d’information (ISD: Information Spectral density). Dans cette optique, nous avons étudié l’impact du filtrage étroit gaussien du second ordre et de la mise en forme spectrale en racine de cosinus surélevé (RRC: Root Raised Cosine) sur les signaux émis dans le cas de modulations en Polarization Division Multiplexed-Quaternary Phase Shift Keying (PDM-QPSK) et Polarization-Switched-Quaternary Phase Shift Keying (PS-QPSK). Ceci a été réalisé en simulation numérique en considérant un espacement spectral entre les différents canaux variable. Nous avons montré qu’en tenant compte à la fois du facteur de qualité maximal et de la densité spectrale d’information, l’application de la mise en forme RRC sur des signaux modulés en PS-QPSK, fournit de meilleures performances de transmission dans une configuration où toute la dispersion est compensée en fin de propagation, pour toutes les valeurs d’espacement spectral étudiées. D’autre part, nous nous sommes intéressés aux effets non-linéaires qui limitent la portée de ces systèmes en dégradant pendant la propagation, les symboles émis, par les interactions entre des symboles d’un même canal, entre canaux ou modes de polarisation. La compréhension et la réduction de l’impact des effets non-linéaires est indispensable lorsqu’on veut utiliser certaines technologies pour augmenter la densité spectrale d’information. L’utilisation du multiplexage en polarisation par exemple, se heurte aux dégradations causées par les effets non-linéaires car de nouvelles interactions entre symboles sont présentes pendant la propagation. Par conséquent le développement des futurs systèmes ayant des débits plus élevés de 400 Gbit/s et 1 Tbit/s par canal passe par une diminution de l’impact des effets non-linéaires. Nous avons établi dans ce travail de thèse, des règles de conception permettant de réduire l’impact des effets non-linéaires entre polarisation dans les systèmes de transmission optiques considéré