Equalization techniques for massive MIMO systems with non-linear amplification

Abstract

The dawn of the new generation of mobile communications and the trafic explosion that derives from its implementation pose great challenge. The milimeter wave band and the use of massive number of antennas are technologies which, when combined, allow the transmission of high data rate, functioning in zones of the electromagnetic spectrum that are less explored and with capability of allocation of dozens of GHz of bandwidth. In this dissertation we consider a massive MIMO millimeter wave system employing a hybrid architecture, i.e., the number of transmit and receive antennas are lower than the number of radio frequency chains. As consequence, the precoder and equalizers should be designed in both digital and analog domains. In the literature, most of the proposed hybrid beamforming schemes were evaluated without considering the effects of nonlinear amplifications. However, these systems face non-avoidable nonlinear effects due to power amplifiers functioning in nonlinear regions. The strong nonlinear effects throughout the transmission chain will have a negative impact on the overall system performance and thus its study and the design of equalizers that take into account these effects are of paramount importance. This dissertation proposes a hybrid iterative equalizer for massive MIMO millimeter wave SC-FDMA systems. The user terminals have low complexity, just equipped with analog precoders based on average angle of departure, each with a single radio frequency chain. At the base station it is designed an hybrid analog-digital iterative equalizer with fully connected architecture in order to eliminate both the multi-user interference and the nonlinear distortion caused by signal amplification during the transmission. The equalizer is optimized by minimizing the bit error rate, which is equivalent to minimize the mean square error rate. The impact of the saturation threshold of the amplifiers in the system performance is analysed, and it is demonstrated that the iterative process can efficiently remove the multi-user interference and the distortion, improving the overall system performance.

O surgimento de uma nova geração de comunicações móveis e a explosão de tráfego que advém da sua implementação apresenta grandes desafios. A banda de ondas milimétricas e o uso massivo de antenas são tecnologias que, combinadas, permitem atingir elevadas taxas de transmissão, funcionando em zonas do espectro electromagnético menos exploradas e com capacidade de alocação de dezenas de GHz para largura de banda. Nesta dissertação foi considerado um sistema de MIMO massivo de ondas milimétricas usando uma arquitectura híbrida, i.e., o número de antenas para transmissão e recepção é menor que o número de cadeias de radiofrequência. Consequentemente, o pré-codificador e equalizadores devem ser projectados nos domínios digital e analógico. Na literatura, a maioria dos esquemas híbridos de beamforming são avaliados sem ter em conta os efeitos de não linearidade da amplificação do sinal. No entanto, estes sistemas sofrem inevitavelmente de efeitos não lineares devido aos amplificadores de potência operarem em regiões não lineares. Os fortes efeitos das não-linearidades ao longo da cadeia de transmissão têm um efeito nefasto no desempenho do sistema e portanto o seu estudo e projecto de equalizadores que tenham em conta estes efeitos são de extrema importância. Esta dissertação propõe um equalizador híbrido para sistemas baseados em ondas milimétricas para MIMO massivo com modulação SC-FDMA. Os terminais de utilizador possuem baixa complexidade, equipados apenas com pré-codificadores analógicos baseados no ângulo médio de partida, cada um com uma única cadeia de radiofrequência. Na estação base é projectado um equalizador iterativo híbrido analógico-digital com arquitectura completamente conectada de modo a eliminar a interferencia multi-utilizador e a distorção causada pela amplificação do sinal aquando da transmissão. O equalizador é optimizado minimizando a taxa de erro de bit, o que é equivalente a minimizar a taxa de erro quadrático médio. O impacto do limiar de saturação dos amplificadores no desempenho do sistema é analisado, e é demonstrado que o processo iterativo consegue eliminar de modo eficiente a interferência multi-utilizador e a distorção, melhorando o desempenho do sistema.