Výzkum zranitelnosti reálných systémů umělé inteligence vůči adversariálním útokům

Cílem práce je prozkoumat zranitelnost hlubokých klasifikátorů obrazu v realistických scénářích. Prozkoumali jsme několik operací augmentací a navrhli kombinace vhodných metod útoků black-box a white-box. Výsledkem práce je implementovaný systém, který úspěšně napadá Google Cloud Vision API. 1The goal of this thesis is to explore the vulnerability of deep neural image classifiers in a realistic scenario. Several augmentation operations have been explored and a combination of suitable white box and black box methods have been proposed. As a result, we have implemented a system that successfully attacks the Google Cloud Vision API. 1Department of Theoretical Computer Science and Mathematical LogicKatedra teoretické informatiky a matematické logikyMatematicko-fyzikální fakultaFaculty of Mathematics and Physic