Matrix completion and spectral learning of PSRs

In the fields of artificial intelligence and machine learning, we are often interested in making probabilistic predictions from time series data. However, many standard algorithms are not designed to give accurate results when we have only a small amount of data obtained via a heavily biased exploration policy. This thesis explores combining the techniques of matrix completion with spectral learning of predictive models in order to tackle this issue. In the matrix completion step, we give each entry an importance weight in order to emphasize each estimate based on the sample size of the dataset from which is was computed. We also add constraints in order to ensure that the result has the desired structure. By using regularization, we encourage equality between entries that describe the same probabilities and that the sum of entries representing joint distributions is equal to the appropriate marginal. We provide empirical results to demonstrate the efficacy of our new method on several synthetic environments, and offer insights into the situations in which this technique should be used. Specifically, this method should be used when there is enough data for the matrix completion step to converge to an appropriate low-rank approximation but not so much data that this step simply adds an additional source of noiseLes domaines de l'intelligence artificielle et de l'apprentissage automatique s'intéressent souvent aux prédictions probabilistes à partir de données provenant de séries temporelles. Plusieurs algorithmes standards n'ont toutefois pas étéconçus pour performer de façon précise sur des données qui ont été mal échantil-lonnées. Cette thèse explore la combinaison entre des techniques de complétion de matrices et l'apprentissage spectral de models prédictifs afin d'aborder ce problème. À l'étape de compléter la matrice, nous donnons un poids d'importance à chaque élément, selon le bruit qu'il lui est associé, dans le but de mettre l'emphase sur chaque estimation. Nous ajoutons également certaines contraintes afin de s'assurer que le résultat ait la structure désirée. Finalement, nous fournissons des résultats empiriques qui démontrent de l'efficacité de notre nouvelle méthode dans divers environnements synthétiques et nous offrons une idée des situations dans lesquelles cette technique devrait être utilisée