Blind source separation of convolutive mixtures of cyclostationary signals

Dans cette thèse, nous nous sommes intéressés aux méthodes de séparation de mélanges convolutifs de signaux cyclostationnaires, et particulièrement de signaux issus de systèmes de communications numériques. Les résultats de ces travaux concernent principalement les méthodes de séparation basées sur la minimisation d'un critère du type CMA avec une approche par déflation. Dans la première partie de ce manuscrit nous nous sommes concentrés sur les mélanges de sources non-circulaires à l'ordre 2, notamment des sources BPSK ou CPM d'indice 1/2. Nous avons montré que dans le cas où les sources ont des caractéristiques différentes (en terme de débit et de résidu de porteuse) la minimisation du critère du module constant couplée avec une approche par déflation permet d'extraire les sources du mélange sans connaître leurs fréquences cycliques ni leurs fréquences cycliques non conjuguées. Dans le cas opposé, où les sources partagent les mêmes fréquences cycliques et les mêmes fréquences cycliques non conjuguées, nous avons prouvé l'existence de minima locaux non-séparants du critère du CMA. Nous avons aussi montré que le critère du CMA converge dans un grand nombre de cas vers ces points et que par conséquent la séparation de sources n'est pas toujours réalisée pour ce type de mélanges. Nous avons ensuite proposé un nouveau critère basé sur le critère du CMA qui, couplé avec une approche par déflation, assure l'extraction des sources dans ces situations. Ce nouveau critère ne nécessite pas la connaissance des fréquences cycliques des signaux mais nécessite quand même la connaissance des fréquences cycliques non-conjuguées les plus significatives. Nous avons proposé une méthode assez grossière d'estimation de ces fréquences et nous avons montré que, avec les fréquences cycliques non-conjuguées significatives ainsi estimées, l'algorithme proposé fonctionne correctement et qu'il est capable d'extraire les sources des mélanges pour lesquels le critère du CMA échoue. Dans la deuxième partie de ce manuscript, nous nous sommes intéressés aux séparateurs dérivés du principe du maximum de vraisemblance. Nous avons d'abord étudié des mélanges instantanés des signaux cyclostationnaires et circulaires à l'ordre 2. Dans ce contexte, nous avons mis en évidence des estimateurs basés sur le principe du maximum de vraisemblance et nous avons présenté une méthode pour les implanter. Nous avons ensuite étudié les propriétés asymptotiques de ces estimateurs et nous avons montré que, dans des conditions idéales (absence du bruit), ces estimateurs permettent d'améliorer les performances du critère du CMA. Toujours dans ces conditions, nous avons montré que les estimateurs dérivés du critère du maximum de vraisemblance permettent dans certains cas d'estimer la source ayant la bande passante la plus petite avec une erreur plus petite que les méthodes usuelles. Ces résultats ne sont malheureusement plus vrais dans un context plus réaliste comme en présence de bruit. Nous avons généralisé les idées développées dans le cas de mélanges instantanés au cas de mélanges convolutifs mais pour ce type de mélanges, nous n'avons pas constaté d'amélioration des performances du critère du CMA même dans le cas non-bruité. Bien qu'en pratique cette étude n'apporte pas de grandes contributions, elle a néanmoins un intérêt théorique certainThis thesis addresses the problem of blind separation of convolutive mixtures of cyclostationnary, linearly modulated signals. We mainly focus on signals issued from digital communications systems. Our work involves separating methods based on the minimisation of a criterion (like the constant modulus) combined with a deflation approach. In the first part of the manuscript we considered convolutive mixtures of non second order circular signals such as BPSK and 1/2 index CPM modulations. We have proven that if the transmission sources all have different baud rates and offset frequencies, minimizing the constant modulus criterion and using a deflation approach successfully achieves the extraction of the original signals from the mixture without prior knowledge of the signal cyclic and non conjugate cyclic frequencies. This result is no longer obtained if all the transmission sources have the same baud rate and frequency offset. We have proven that in this case the CMA criterion has non separating local minima and that the minimisation algorithm very often converges to these spurious points. This means that in a non-negligible number of cases separation is not achieved for this type of mixtures. We therefore propose a new criterion based on the CMA which combined with a deflation approach ensures the extraction of source signals from this particular type of mixtures. This new criterion does not need prior knowledge of the cyclic frequencies but does need information on the most significant non conjugate cyclic frequencies of the signals. We also propose an estimation method for these frequencies and we show that our new algorithm works correctly with the estimated non conjugate cyclic frequencies and that it is capable to extract all the source signals from those types of mixtures for which the CMA fails.The second part of this manuscript focuses on a class of Maximum Likelihood derived separators. We are only considering second order circularly modulated signals. We first studied the case of instantaneous mixtures and then extended our results to convolutive mixtures. For the instantaneous mixtures, we have developed Maximum Likelihood based estimators and presented an implementation method for them. We have then studied their asymptotic properties and we have shown that, in the absence of noise, these estimators improve the performance of the CMA algorithm. Under the same assumptions we have shown that the Maximum Likelihood based estimators allow, in some cases, to extract the signal with the largest bandwidth with a lower error than the one obtained when using other well known separating methods. This results however are no longer true in more realistic contexts such as the presence of noise. We have extended this study to the convolutive mixtures of signals but in this case we have not seen an important improvement on the performances achieved by the CMA algorithm, not even in the absence of noise. Even though this study does not have practical applications, it has nevertheless a certain theoretical significanc