Advanced technologies for next generation optical transceivers in long haul transport links and short reach interconnects

The burgeoning capacity demand for both optical transport links over metro / long-haul distances (> 100km) and short reach optical interconnects (100m-20km) for inter- and intra-datacenter networking is driving the notion of a digital signal processing (DSP) based optical transceiver. In optical transport, flexible optical transceivers employ coherent detection and DSP to enable mitigating various fiber transmission impairments such as chromatic dispersion (CD), polarization mode dispersion (PMD), Kerr nonlinearity, laser phase noise and frequency offset. In addition, these flexible transceivers need to be agile enough to adapt to the increasingly dynamic network traffic needs (e.g. varying capacity and reach requirements, dynamic wavelength assignments). On the short reach side, cheap and power efficient optics is a necessity for datacenter applications and hence intensity modulation / direct-detection (IM/DD) prevails over coherent detection. For such IM/DD transceivers, photonic integration is envisioned to play a significant role in reducing the cost along with DSP that potentially allows increasing the delivered bit rates with cheap electronics and reduced number of optical components (and consequently footprint).In the first part of the thesis, we propose and verify, both analytically and experimentally, a myriad of DSP algorithms suitable for implementation in flexible optical coherent transceivers for transport networks. The proposed DSP algorithms tackle impairments such as laser phase noise, frequency offset, polarization rotation, fiber Kerr nonlinearity and sampling frequency offset. For each of the proposed algorithms, we provide a performance comparison with the standard counterparts in the literature highlighting the advantages of our approaches together with the underlying tradeoffs. Next, we develop and experimentally verify a rigorously derived analytical model for performance evaluation of a flexible coherent optical front-end that can operate colorlessly in a wavelength division multiplexing (WDM) scenario, i.e. without the need for a WDM demultiplexing filter prior to the receiver. The accuracy of the developed model was proved by finding a close match between model predictions and experimental results. We finally show that the model can be used as a useful system design tool to predict the system performance at various operating scenarios.In the last part of the thesis, we propose a DSP algorithm to enable polarization division multiplexing (PDM) in IM/DD transceivers for short reach optical interconnects. This doubles the achievable bit rate with the same speed of the electronic components and with the same number of light sources by exploiting the two orthogonal polarization states per source. The proposed DSP algorithm is based on a multiple-input and multiple-output (MIMO) finite impulse response (FIR) filter that operates on the Stokes parameters of the received field, which can be obtained via a direct-detection receiver front-end, to invert the random rotations that occurred along the fiber. The proposed DSP was verified experimentally using an IM/DD transceiver that employs a single 1310 nm laser whose both polarizations were modulated by a packaged silicon photonic (SiP) intensity modulator. A record bit rate of 224 Gb/s was transmitted over 10 km with a BER below the forward-error-correcting (FEC) threshold.La demande de capacité fleurissante des liens de transport optique sur distance métropolitaine et de longue portée (> 100 km) ainsi que les interconnections optiques de courte portée (100m-20km) pour le réseautage entre centre de données et à l'intérieur de ceux-ci pousse la notion de transceveur basé sur le traitement de signaux numérique (TSN). Lors de transport optique, les tranceveurs optique flexible utilisent la détection cohérente le TSN pour permettre d'amoindrir divers impacts de la transmission par fibre, tel que la dispersion chromatique (DC), la dispersion par mode de polarisation (DMP), l'effet nonlinéaire Kerr, le bruit de phase du laser et le décalage fréquentielle. En plus, ces transceveurs flexible doivent être assez agile pour s'adapter aux besoins de plus en plus dynamiques du trafic des réseaux. (e.g. la demande variable de capacité et de portée, l'assignement dynamique des longueurs d'ondes). Du côté 'courte-portée', des composantes optique abordables et à faible consommation sont une nécessité pour les applications de centres de données, et c'est pour cette raison que la modulation par intensité avec détection directe (MI/DD) l'emporte sur la détection cohérente. Pour de tels transceveurs MI/DD, l'intégration photonique joue un rôle significatif dans la réduction des coûts, de concert avec le TSN qui peut potentiellement accroître le taux binaire en utilisant de l'électronique bon marché et un nombre réduit de composante optique (et conséquemment une empreinte réduite).Dans la première partie de cette thèse, nous proposons et vérifions de façons analytique et expérimentale une myriade d'algorithmes de TSN convenable à l'implémentation dans les transceveurs optique cohérent flexible pour les réseaux de transport. Les algorithmes de TSN proposés s'attaquent aux détériorations telles que le bruit de phase du laser, la déviation fréquentielle, la rotation de la polarisation, l'effet nonlinéaire Kerr et la déviation de la fréquence d'échantillonnage. Pour chacun des algorithmes proposés, nous fournissons une comparaison des performances avec celles des algorithmes standards de la littérature, en faisant ressortir les avantages de nos approches ainsi que les contre-coûts sous-jacents. Ensuite, nous développons et vérifions expérimentalement un modèle analytique rigoureusement dérivé pour l'évaluation des performances de l'interface frontale de receveur optique cohérent flexible opérant sur un spectre de multiplexage fréquentielle (MF) sans filtre optique pour isoler et démultiplexer une couleur. La fidélité du modèle développé fût prouvée en trouvant un accord très juste entre les prédictions du modèle et les résultats expérimentales. Finalement, nous démontrons que le modèle peut être utilisé comme outil utile pour la conception de systèmes, permettant de prédire les performances de celui-ci dans divers scénarios d'opérations.Dans la dernière partie de cette thèse, nous proposons un algorithme de TSN permettant le multiplexage en polarisation (MP) pour transceveur MI/DD pour les interconnections optique de courtes portée. Cette dernière double le taux binaire atteignable tout en utilisant des composantes électroniques de même vitesse ainsi que le même nombre de source lumineuse en exploitant les deux axes orthogonaux de polarisation d'une même source. L'algorithme de TSN est basé sur un filtre à réponse impulsionelle finie (RIF) de multiple-entrées–multiple-sorties (MEMS), opérant sur les paramètres Stokes du champ reçu, qui peuvent être obtenus à l'aide d'un receveur frontale à détection directe, permettant d'inverser la rotation aléatoire de la polarisation dans la fibre. Le TSN proposé fût vérifié expérimentalement en utilisant un transceveur MI/DD opérant à 1310 nm où les deux polarisations furent modulé par un modulateur en intensité en Silice sur Photonique (SsP) assemblé. Un taux binaire record de 224 Gb/s fût transmit sur 10 km, affichant un taux d'erreur binaire sous le seuil du correcteur d'erreur