Adversarial examples in Android malware detection

Područje računalne sigurnosti je podložno stalnim promjenama i nadogradnjama. Primjena metoda strojnog učenja kao tehnike očuvanja sigurnosti predstavlja pozitivnu promjenu i unaprjeđuje postojeće metode obrane. U radu smo se bazirali na dinamičke napade putem suparničkih primjera. Preciznije, orijentirali smo se na suparničke primjere u detekciji zloćudnih programa na sustavu Android. Početni korak u procesu generiranja suparničkih primjera je konstruiranje polaznog modela binarnog klasifikatora. Metoda generiranja suparničkih primjera koristi polazni model za određivanje smjera promjene koji pospješuje klasifikaciju u željenu klasu. Računamo gradijent funkcije neuronske mreže i na temelju iznosa gradijenta određujemo koje od značajki ulaznog vektora ćemo mijenjati. Svjesni činjenice da je moguće konstruirati smisleni primjer koji će zavarati početni model, primijenili smo suparnički trening kao metodu obrane od ovakvog tipa napada. Početni model smo dodatno trenirali na suparničkim primjerima kako bi ga učinili robusnijim i time manje osjetljivim na moguće napade. Naš suparnički klasifikator je pokazao bolje rezultate u detekciji zloćudnih programa od početnog modela. Istovremeno je zadržana točnost modela u vidu početnih zloćudnih aplikacija i poboljšana sposobnost detekcije primjera koji su specijalno modelirani kako bi zavarali klasifikator.The area of computer security is under constant development. This paper describes the use of adversarial machine learning in the context of computer security. Adversarial learning is used to confront the attackers that dynamically change their behavior over time. Existing models are observed to find weaknesses that could be exploited. We are concentrated on the task of fighting adversarial examples in the context of malicious programs on Android operating systems. The first step of our approach is constructing a standard binary classifier. This model is used to craft adversarial examples. The perturbation algorithm is focused on finding the direction in which input examples can be crafted to mislead the model. The implemented method is based on the values of the network gradient. Features whose absolute value is the greatest are added in an attempt of misleading the classifier. Produced adversarial examples are further used for adversarial training. Adversarial training is a defense mechanism based on adversarial examples. Crafted examples are used in a training set of a new model. This model is known as an adversarial classifier. Adversarial training is found to be an efficient way of fighting with adversarial examples. This model is more robust than the previous one. Model accuracy, false negative, and false positive rates support this claim