Robust optimization in classification and regression problems

Předložená práce pojednává o vybraných metodách regresní a klasifikační analýzy z pohledu robustní optimalizace, jejímž cílem je vhodně zohlednit případné nepřesnosti v datech nebo chyby měření. V první části je představena metoda nejmenších čtverců a její zobecnění, které lze odvodit v kontextu robustní optimalizace - hřebenová regrese a metoda Lasso. Následně je ukázána souvislost mezi těmito zobecněními a metodou nejmenších čtverců v robustní optimalizaci. Teoretické výsledky doplňuje simulační studie zkoumající z různých hledisek robustnost jednotlivých metod. Ve druhé části práce je čtenář seznámen s jednou z moderních klasifikačních metod - metodou SVM. Získané poznatky jsou následně využity k vybudování metody SVM, která se uplatňuje v robustní klasifikaci. Závěrečná část je věnována aplikaci vyložené teorie na příkladu biometrické identifikace stylu psaní a osob podle dynamiky stisku počítačových kláves. Powered by TCPDF (www.tcpdf.org)In this thesis, we present selected methods of regression and classification analysis in terms of robust optimization which aim to compensate for data imprecisions and measurement errors. In the first part, ordinary least squares method and its generalizations derived within the context of robust optimization - ridge regression and Lasso method are introduced. The connection between robust least squares and stated generalizations is also shown. Theoretical results are accompanied with simulation study investigating from a different perspective the robustness of stated methods. In the second part, we define a modern classification method - Support Vector Machines (SVM). Using the obtained knowledge, we formulate a robust SVM method, which can be applied in robust classification. The final part is devoted to the biometric identification of a style of typing and an individual based on keystroke dynamics using the formulated theory. Powered by TCPDF (www.tcpdf.org)Katedra pravděpodobnosti a matematické statistikyDepartment of Probability and Mathematical StatisticsMatematicko-fyzikální fakultaFaculty of Mathematics and Physic