Conceptual Approaches for Securing Networks and Systems

Peer-to-peer real-time communication and media streaming applications optimize their performance by using application-level topology estimation services such as virtual coordinate systems. Virtual coordinate systems allow nodes in a peer-to-peer network to accurately predict latency between arbi- trary nodes without the need of performing extensive measurements. However, systems that leverage virtual coordinates as supporting building blocks, are prone to attacks conducted by compromised nodes that aim at disrupting, eavesdropping, or mangling with the underlying communications. Recent research proposed techniques to mitigate basic attacks (inflation, deflation, oscillation) considering a single attack strategy model where attackers perform only one type of attack. In this work, we define and use a game theory framework in order to identify the best attack and defense strategies assuming that the attacker is aware of the defense mechanisms. Our approach leverages concepts derived from the Nash equilibrium to model more powerful adversaries. We apply the game theory framework to demonstrate the impact and efficiency of these attack and defense strategies using a well-known virtual coordinate system and real-life Internet data sets. Thereafter, we explore supervised machine learning techniques to mitigate more subtle yet highly effective attacks (frog-boiling, network-partition) that are able to bypass existing defenses. We evaluate our techniques on the Vivaldi system against a more complex attack strategy model, where attackers perform sequences of all known attacks against virtual coordinate systems, using both simulations and Internet deployments.Dans cette thèse, nous avons deux contributions principales. La première contribution considère lathéorie des jeux pour analyser systématiquement les stratégies d'attaques et de défenses. Nous avonsétudié les interactions stratégiques des deux joueurs. Nous avons élaboré deux différents jeux, lepremier pour analyser les stratégies de défenses simples et le deuxième pour vérifier les stratégies dedéfenses avancées. Pour les défenses avancées nous avons considéré un système à régulation automatiquepour avoir une sélection adaptive du seuil. La deuxième contribution est l'élaboration d'une nouvelle méthode qui détecte toutes les attaquescontre les systèmes aux coordonnées virtuelles. De plus, nous avons créé des nouvelles stratégiesd'attaques plus complexes. Dans ces stratégies d'attaques complexes, nous avons conceptualisé desscénarios à deux attaques ainsi que des scénarios de séquence d'attaques. Pour notre nouvelle méthodede détection nous avons utilisé des algorithmes d'apprentissage supervisé. Nous avons trouvé que lesmachines à vecteur de support, malgré leur réputation d'avoir une meilleure performance que lesarbres de décision, réalisent tout de même une bien plus mauvaise performance pour les systèmes auxcoordonnées virtuelles