Defending classification models from poisoned datasets

Cilj ovog rada je pokazati načine napada na duboke modele pomoću zatrovanih skupova podataka te istražiti kako ih obraniti od takvih napada. Želimo vidjeti koliko su efektivne trenutne metode obrane dubokih modela od takvih napada. U radu prvo opisujemo strukturu umjetnih neurona i dubokih modela. Zatim objašnjavamo različite načine napada pomoću zatrovanih skupova podataka na duboke modele. Nakon toga objašnjavamo razne načine obrana od tih napada. Na kraju prikazujemo eksperimentalne rezultate napada na duboke modele te efektivnost načina obrane protiv njih.The goal of this paper is to demonstrate backdoor attacks on deep models and ways to mitigate them. We want to see how effective are the current defenses against backdoor attacks. In this paper we first describe the structure of artificial neurons and deep models. Then we describe the different types of defenses that can be used to mitigate backdoor attacks. In the end we show the experimental results gained from backdoor attacks on deep models and the effectiveness of the different methods to mitigate them