Digital nonlinear equalization for optical transmission systems

Abstract

This thesis focuses on digital equalization of nonlinear fiber impairments for coherent optical transmission systems. Building from well-known physical models of signal propagation in single-mode optical fibers, novel nonlinear equalization techniques are proposed, numerically assessed and experimentally demonstrated. The structure of the proposed algorithms is strongly driven by the optimization of the performance versus complexity tradeoff, envisioning the near-future practical application in commercial real-time transceivers. The work is initially focused on the mitigation of intra-channel nonlinear impairments relying on the concept of digital backpropagation (DBP) associated with Volterra-based filtering. After a comprehensive analysis of the third-order Volterra kernel, a set of critical simplifications are identified, culminating in the development of reduced complexity nonlinear equalization algorithms formulated both in time and frequency domains. The implementation complexity of the proposed techniques is analytically described in terms of computational effort and processing latency, by determining the number of real multiplications per processed sample and the number of serial multiplications, respectively. The equalization performance is numerically and experimentally assessed through bit error rate (BER) measurements. Finally, the problem of inter-channel nonlinear compensation is addressed within the context of 400 Gb/s (400G) superchannels for long-haul and ultra-long-haul transmission. Different superchannel configurations and nonlinear equalization strategies are experimentally assessed, demonstrating that inter-subcarrier nonlinear equalization can provide an enhanced signal reach while requiring only marginal added complexity.

A presente tese foca-se no tema da equalização digital de distorções não lineares da fibra em sistemas coerentes de transmissão ótica. Tirando partido de modelos físicos bem conhecidos para a propagação de sinal em fibras óticas mono-modo, novas técnicas de equalização não linear são propostas, testadas numericamente e validadas por demonstração experimental. A estrutura dos algoritmos propostos é fortemente condicionada pela otimização do compromisso entre complexidade e desempenho, tendo em conta a sua futura implementação prática em transcetores comerciais operando em tempo-real. O trabalho desenvolvido foca-se inicialmente na mitigação das distorções não lineares intra-canal, aplicando o conceito de propagação digital inversa realizado através de filtros de Volterra. Após uma análise sistemática do núcleo de Volterra de terceira ordem, é identificado um conjunto de simplificações críticas, culminando no desenvolvimento de algoritmos de equalização não linear de baixa complexidade, formulados no domínio do tempo e frequência. A complexidade de implementação das técnicas propostas e analiticamente descrita em termos de esforço computacional e latência de processamento, através da determinação do número de multiplicações reais por amostra e do número de multiplicações realizadas em série, respetivamente. O desempenho da equalização e avaliado recorrendo a simulação numérica e validação experimental através da medição da taxa de erros. Por fim, a questão da compensação não linear inter-canal é abordada no contexto da propagação de supercanais 400G para sistemas de transmissão metro e longa distância. Nesse âmbito são experimentalmente testadas diferentes configurações de supercanal e estratégias de equalização não linear, demonstrando assim que a implementação de equalização inter-subportadora permite estender consideravelmente o alcance, requerendo apenas um esforço computacional ligeiramente superior.