The Application of Divergences in Prototype Based Vector Quantization

Dit proefschrift geeft een systematische analyse van op divergentie gebaseerde leer algoritmen en levert het mathematisch kader voor het gebruik van deze informatie theoretische maten in verschillende leer algoritmen, waaronder gradient gebaseerde training voorschriften. In het bijzonder richten we ons op ongecontroleerd en gecontroleerde prototype methoden, en op dimensie reductie en visualisatie technieken die gebruik maken van Stochastic Neighborhood Embedding (SNE).This thesis gives a systematic analysis of machine learning relying on divergences and provides the mathematical framework for the use of these information theoretic dissimilarity measures in various learning schemes, including gradient based training prescriptions. In particular, we focus on unsupervised and supervised prototype based vector quantization as well as on dimension reduction and visualization generalizing the SNE approach