The signal detection via semidefinite relaxation in MIMO channels

Técnicas de comunicação baseadas em múltiplas antenas transmissoras e receptoras (MIMO - multiple input multiple output) têm sido cada vez mais exploradas tendo em vista a obtenção de sistemas de comunicação de alta capacidade e vazão, face ao cenário de escassez crescente de espectro. Neste contexto, encontra-se a detecção de sinais por relaxação semidefinida (SDR - semidefinite relaxation). Dado a proibitiva complexidade (exponencial) do detector ótimo de máximaverossimilhança (ML - maximum likelihood), a estratégia de detecção sub-ótima SDR torna-se bastante promissora, principalmente quando a ordem de modulação e/ou o número de antenas transmissoras e receptoras crescem, devido ao desempenho muito próximo ao alcançado pelo detector ótimo ML, porém, realizada em tempo polinomial. Inicialmente, este trabalho analisa o desempenho do detector SDR em canais MIMO face aos erros nas estimativas dos coeficientes de canal, avalia a melhoria de desempenho quando do uso da técnica de seleção de antenas, bem como também propõe combinar, de forma inédita, o uso da técnica heurística por busca local à técnica de otimização por relaxação semidefinida. Em uma segunda etapa, este trabalho propõe uma nova estratégia híbrida de detecção, a qual combina a técnica de redução treliça (LR - lattice reduction) no estágio de pré-detecção ao uso do detector SDR na detecção de sinais MIMO. Este detector MIMO híbrido denominado LR-SDR, torna-se promissor especialmente para configurações com elevadas ordens de modulação QAM (quadrature amplitude modulation) e número de antenas. Uma extensa análise de desempenho e complexidade para o detector híbrido LR-SDR sob canais MIMO é desenvolvida, comprovando sua superioridade em termos do compromisso complexidade-desempenho sobre o detector SDR clássico, especialmente para cenários de elevada ordem de modulação, grande número de antenas Tx-Rx e erros nas estimativas de canal.Communication techniques based on multiple-input multiple-output (MIMO) channels have been increasingly exploited aiming to obtain communication systems with high capacity and throughput, against the increasing scarcity of spectrum. In this context, the signal detection via semidefinite relaxation (SDR) can be found in the literature. Given the prohibitive complexity (exponential) of the optimal maximum-likelihood (ML) detector when the order of modulation and the number of transmitting and receiving antennas are incremented, the suboptimal SDR detection strategy is very promising due to its very near-optimal ML performance combined with polynomial time complexity. Initially, this work analyzes the performance of the SDR detector under MIMO channels, considering its robustness to imperfect channel coefficients estimation, the performance increasing when the antenna selection technique is deployed, but also investigates for the first time the use of local search heuristic combined to semidefinite relaxation technique. In a second step, this work proposes a new hybrid strategy for detection, which combines the lattice reduction (LR) technique in the predetection stage with the use of the SDR detector for the MIMO signal detection. This hybrid MIMO detector, namely LR-SDR, becomes particularly promising for configurations with high order modulation formats and number of antennas. An extensive performance-complexity analysis for the hybrid LR-SDR MIMO detector is carried out, with clear demonstration of its superiority in terms of performance-complexity trade-off, specially for system configuration with high order modulation, number of Tx-Rx antennas and channel error estimates