Please use this identifier to cite or link to this item: http://hdl.handle.net/10773/41696
Title: Digital signal processing and machine learning for coherent optical systems: a Python approach
Other Titles: Processamento de sinal digital e aprendizagem de máquina para sistemas óticos coerentes: uma abordagem em Python
Author: Zadorozhnyy, Denys
Advisor: Guiomar, Fernando Pedro Pereira
Monteiro, Paulo Miguel Nepomuceno Pereira
Keywords: Autoencoder
Coherent Optical System
Digital Signal Processing
Geometric Shaping
Defense Date: 13-Dec-2023
Abstract: Since their inception, optical communications have gone through a lot of changes, with constant innovation and evolution. The introduction of Digital Signal Processing (DSP) enabled the immense and rapid progression of coherent optics. This, in turn, allowed the use of advanced modulation formats, such as Quadrature Amplitude Modulation (QAM), which made this kind of system much more efficient in comparison to their Intensity Modulation with Direct Detection (IM-DD) counterparts. DSP allows for the mitigation of imperfections in the Local Oscillator (LO) at the receiver and in the transmission channel in the digital domain, which eliminates the need for specific physical components to do so. These fast and highly reliable optical communication systems have truly revolutionized the way information is transmitted. However, the world keeps evolving. And with it, the demands for even more efficient and secure data transmission continue to grow. With that in mind, Machine Learning (ML) appeared as a means to further push optical communications to new levels. It has already shown to be very effective and groundbreaking in many other fields. In that sense, this thesis explores the intersection of coherent optical fiber systems with ML. It was already shown that an Autoencoder (AE) could learn full end-to-end mapping and demapping of a transmission system. In this work, the main objective is to develop a complete simulation tool using the Python programming language, which integrates classical DSP approaches with the innovative ideas of ML. First, going step by step, a simple simulator is made with the base components of a communications system, such as a mapper, demapper, and Additive White Gaussian Noise (AWGN) channel. After its validation more complex DSP functionalities are added to the receiver side: Adaptive Equalization, Carrier-Frequency Recovery (CFR), and Carrier-Phase Recovery (CPR). Different types of algorithms are explored and compared. Bandwidth limitations, mismatches in frequency, and laser phase noise can all deteriorate the transmitted signal. Those effects were applied to the system under study, and various tests were done in order to validate the developed algorithms. Using the developed simulation tool, the compensation of each one of these effects was demonstrated. Finally, the AE is introduced, and the chosen architecture is explained. In this work, it was opted to use a Neural Network (NN) at the encoder and a minimum distance demapper at the decoder. This way the computational complexity is reduced, and the geometrically shaped constellations can be easily exported and integrated into the developed Python simulator. Those new constellations had a visible gain over the regular square ones. At last, residual laser phase noise is introduced in the AE, and it was demonstrated that the optimization of the constellation geometry can effectively contribute to enhance the performance of phase noise impaired coherent optical systems.
Desde a sua criação, as comunicações óticas passaram por muitas mudanças, com constante inovação e evolução. A introdução de Processamento Digital de Sinal (em inglês, DSP) permitiu um imenso e rápido progresso da ótica coerente. Isto, por sua vez, permitiu a utilização de formatos de modulação avançados, como a Modulação de Amplitude em Quadratura (em inglês, QAM), o que aumentou bastante a eficiência deste tipo de sistemas comparativamente aos sistemas que utilizam Modulação em Intensidade com Deteção Direta (em inglês, IM-DD). O DSP permite a mitigação de imparidades do Oscilador Local (em inglês, LO) no recetor e do canal de transmissão no domínio digital, o que elimina a necessidade de componentes físicos específicos para o fazer. Estes sistemas de comunicação ótica rápidos e altamente confiáveis revolucionaram verdadeiramente a maneira como a informação é transmitida. No entanto, o mundo continua a evoluir. E com ele, as exigências por uma transmissão de dados ainda mais eficiente e segura continuam a crescer. Com isso em mente, a Aprendizagem de Máquina (em inglês, ML) surgiu como um meio para levar as comunicações óticas a novos patamares. Esta já se mostrou bastante eficaz e inovadora em muitos outros campos. Nesse sentido, esta tese explora a interseção de sistemas coerentes de fibra ótica com ML. Já foi demonstrado que um Codificador Automático (em inglês, AE) consegue aprender o mapeamento e o desmapeamento completo de ponta-a-ponta de um sistema de transmissão. Neste trabalho, o objetivo principal é desenvolver uma ferramenta de simulação completa utilizando a linguagem de programação Python, que integra abordagens clássicas de DSP com as ideias inovadoras de ML. Primeiro, passo a passo, é criado um simulador simples, com os componentes básicos de um sistema de comunicação, como um mapeador, desmapeador e um canal de Ruído Gaussiano Branco Aditivo (em inglês, AWGN). Após a sua validação, funcionalidades de DSP mais complexas são adicionadas do lado do receptor: Equalização Adaptativa, Recuperação da Frequência da Portadora (em inglês, CFR) e Recuperação da Fase da Portadora (em inglês, CPR). Diferentes tipos de algoritmos são explorados e comparados. Limitações de largura de banda, desajustes de frequência e ruído de fase do laser podem deteriorar o sinal transmitido. Esses efeitos foram aplicados ao sistema em estudo, e vários testes foram realizados para validar os algoritmos desenvolvidos. Utilizando a ferramenta de simulação desenvolvida, foi demonstrada a compensação de cada um desses efeitos. Finalmente, o AE é introduzido, e a arquitetura escolhida é explicada. Neste trabalho, optou-se por usar uma Rede Neural (em inglês, NN) no codificador e um desmapeador de distância mínima no descodificador. Dessa forma, a complexidade computacional é reduzida e as constelações geometricamente formatadas podem ser facilmente exportadas e integradas no simulador Python desenvolvido. Essas novas constelações tiveram um ganho visível em relação às convencionais. Por fim, o ruído residual de fase do laser é introduzido no AE, demonstrando-se que a otimização da geometria da constelação do sinal transmitido permite melhorar o desempenho de sistemas afetados por ruído de fase.
URI: http://hdl.handle.net/10773/41696
Appears in Collections:UA - Dissertações de mestrado
DETI - Dissertações de mestrado

Files in This Item:
File Description SizeFormat 
Documento_Denys Zadorozhnyy.pdf9.42 MBAdobe PDFView/Open


FacebookTwitterLinkedIn
Formato BibTex MendeleyEndnote Degois 

Items in DSpace are protected by copyright, with all rights reserved, unless otherwise indicated.