Formats de modulation et traitement du signal avancés pour les communications optiques très hauts débits à forte efficacité spectrale

Coherent detection in combination with digital signal processing is now the de facto standard for long-haul high capacity optical communications systems operating at 100 Gb/s per channel and beyond. With the advent of high-speed high-resolution digital-to-analog converters, generation of high order modulation formats with digital pulse shaping has become possible allowing the increase of system spectral efficiency. Furthermore, the widespread use of transmission links without in-line dispersion compensation enables elegant analytical optical channel modeling which facilitates the use of powerful tools from information theory and digital signal processing. Relying on these aforementioned tools, the introduction of time-interleaved hybrid modulation formats, multi-dimensional modulation formats, and alternative quadrature amplitude modulation formats is investigated in high-speed optical transmission systems. Their impact on signal processing algorithms and achievable information rate over optical links is studied in detail. Next, the design of next generation transponders based on high symbol rate signals operating at 400 Gb/s and 1 Tb/s is investigated. These systems are attractive to reduce the cost per bit as more capacity can be integrated in a single transponder. Thanks to the development of advanced signal processing algorithms combined with state-of-the-art opto-electronic components, record high-capacity transmission experiments are demonstrated: the first single carrier 400 Gb/s transmission over transatlantic distance (at 6 b/s/Hz) and the first 1 Tb/s net data rate transmission based on the parallel synthesis of multiple spectral slices (at 8 b/s/Hz)La détection cohérente combinée avec le traitement du signal s’est imposée comme le standard pour les systèmes de communications optiques longue distance à 100 Gb/s (mono-porteuse) et au-delà. Avec l'avènement des convertisseurs numérique-analogique à haute vitesse et haute résolution, la génération de formats de modulation d'ordre supérieure avec filtrage numérique est devenue possible, favorisant l’émergence de transmissions à forte densité spectrale. En outre, la généralisation des liaisons non gérées en dispersion permet une modélisation analytique du canal optique et favorise l'utilisation d’outils puissants de la théorie de l'information et du traitement du signal. En se fondant sur ces outils, de nouveaux formats de modulation à entrelacement temporel dits hybrides et formats multidimensionnels sont étudiés et mise en oeuvre expérimentalement. Leur impact sur les algorithmes de traitement du signal et sur le débit d'information atteignable est analysé en détail. La conception de transpondeurs de prochaine génération à 400 Gb/ s et 1 Tb/s reposant sur des signaux à débit-symbole élevé est également étudiée. Ces systèmes sont intéressants pour réduire le coût par bit en augmentant la capacité émise par transpondeur. L'élaboration d'algorithmes de traitement du signal avancés associés à l’utilisation de composants optoélectroniques à l'état de l'art ont permis la démonstration d’expériences records: d’une part la première transmission mono-porteuse à 400 Gb/s sur une distance transatlantique (pour une efficacité spectrale de 6 b/s/Hz) d’autre part la première transmission à 1 Tb/s basée sur la synthèse en parallèle de plusieurs tranches spectrales (8 b/s/Hz