Conception et performance limites pour les futurs récepteurs mobiles

Multiple Input Multiple Output (MIMO) communications systems as well as their recent largescale version, called massive MIMO, are seen as potential technologies for current and future wireless communications standards, thanks to their powerful performance-enhancing capabilities. Nevertheless, in order to fully exploit all their potentials, great attention has to be given to the system identification and ommunications channel equalization tasks, which remain a current concern. In this context, the main contribution of this thesis falls into the scope of communicationssystem identification, through channel estimation, as well as channel equalization via source separation techniques, for linear and nonlinear system models. Thus, by adopting semi-blind approaches, performance analysis as well as efficient algorithms development are put forward by considering different constraints/issues such as pilot contamination, encountered mainly in massive MIMO systems, nonlinearities effects as well as inter-symbol and inter-user interference. Furthermore, for a better performance gain, emphasis is also put on the exploitation of priors on the systems such as training sequences (pilots), channel’s sparsity, and data matrix structure.To do so, a performance bounds analysis is carried out through the Cramèr-Rao Bounds (CRB); which demonstrates the effectiveness of semi-blind techniques to overcome the problem of pilot contamination in massive MIMO-OFDM (MIMO Orthogonal frequency-Division Multiplexing) systems. This effectiveness is demonstrated for the case of synchronous and non-synchronous cells in a cellular network. This study motivated us to adopt semi-blind approaches for channel equalization and data detection via source separation techniques. A Multi-Modulus based (MM) solution is proposed for demixing instantaneous mixtures in massive MIMO systems. With no priors on the communicationschannel, an optimization of a semi-blind cost function is performed iteratively with an optimized step size. This solution is then extended to the case of massive MIMO-OFDM communications systems (convolutive model), where we estimate a separating matrix independently of the sub-carrier. Both solutions exhibit interesting performance under pilot contamination effect. Also, by considering priors on the system, such as pilots; channel’s sparsity and data matrix xii structure, we put forward a joint sparse channel estimation and data recovery as an optimization problem. The proposed semi-blind solution is based on the Successive Convex Approximation (SCA) approach, where the optimization is performed on an approximate convex problem, rather than the original non-convex one, with guaranteed convergence to a stationary point. Then, by considering nonlinear multichannel communications systems, a Maximum Likelihood(ML)-based channel estimator is proposed. A blind version is proposed by combining a subspace technique and the Expectation-Maximization (EM) algorithm, with new ambiguity removal techniques. Also, a semi-blind version is proposed, which helps getting rid off the inherent ambiguity of blind processing and obtaining better communications channel estimation performance. Finally, we initiate a study related to the potential of the Deep Learning (DL) approach on the physical layer. Thus, data detection in nonlinear communications systems is treated as a DL-based classification problem. The obtained results show that DL offers promising potential for applications at the physical layer.Les systèmes de communications MIMO (Multiple Input Multiple Output) ainsi que leur récente version à grande-échelle, appelée MIMO massive, sont considérés comme des technologies potentielles pour les standards de communication sans fil actuels et futurs, grâce à leurs puissantes capacités d’amélioration des performances. Néanmoins, afin d’exploiter pleinement tous leurs potentiels, une grande attention doit être accordée aux opérations d’identification du système et d’égalisation des canaux de transmission, qui restent une préoccupation actuelle. Dans ce contexte, la principale contribution de cette thèse s’inscrit dans le cadre de l’identification des systèmes de communication, à travers l’estimation des canaux, ainsi que l’égalisation des canaux via les techniques de séparation de sources, et ce pour des modèles de communications linéaires et non linéaires. Ainsi, en adoptant des approches semi-aveugles, des analyses de performances ainsi que le développement d’algorithmes efficaces sont mis en avant en considérant différents contraintes/problèmes tels que la contamination des pilotes, rencontrés principalement dans les systèmes MIMO massifs, les effets des non-linéarités ainsi que les interférences inter-symboles et inter-utilisateurs .En plus, pour un meilleur gain en performance, l’accent est mise aussi sur l’exploitation des a priori sur les systèmes tels que les séquences d’entraînement (pilotes), la sparcité du canal et la structure de la matrice de données. Pour ce faire, une analyse des performances limites est réalisée à travers les bornes de Cramèr-Rao (CRB : Cramèr-Rao Bounds) ; et qui démontre l’efficacité des techniques semi-aveugles pour surmonter le problème de la contamination des pilotes dans les systèmes MIMO-OFDM (MIMO Orthogonal frequency-Division Multiplexing) massifs. Cette efficacité est démontrée pour le cas de cellules synchrones et non-synchrones dans un réseau cellulaire. Cette étude nous a motivé à adopter les approches semi-aveugles pour l’égalisation des canaux et la détection des données via des techniques de séparation de sources. Une solution basée sur les modules multiples (MM : Multi-Modulus) est proposée pour démixer des mélanges instantanés dans des systèmes MIMO massifs. En l’absence d’informations préalables sur le canal de communication, une optimisation d’une fonction coût semi-aveugle est effectuée de manière itérative avec un pas optimisé. Cette solution est ensuite étendue au cas des systèmes x de communication MIMO-OFDM massifs (modèle convolutif), où nous estimons une matrice de séparation indépendamment de la sous-porteuse. Les deux solutions présentent des performances intéressantes sous l’effet de la contamination des pilotes. Aussi, en considérant des a priori sur le système, tels que les pilotes; la parcimonie du canal et la structure de la matrice de données, nous mettons en avant l’estimation conjointe du canal de transmission parcimonial et des données sous forme d’un problème d’optimisation. La solution semi-aveugle proposée est basée sur l’approche d’approximation convexe successive (SCA : Successive Convex Approximation), où l’optimisation est effectuée sur un problème approximatif convexe, plutôt que sur le problème original non convexe, avec convergence garantie vers un point stationnaire..