Network attack injection

Tese de doutoramento, Informática (Ciência da Computação), Universidade de Lisboa, Faculdade de Ciências, 2012The increasing reliance on networked computer systems demands for high levels of dependability. Unfortunately, new threats and forms of attack are constantly emerging to exploit vulnerabilities in systems, compromising their correctness. An intrusion in a network server may affect its users and have serious repercussions in other services, possibly leading to new security breaches that can be exploited by further attacks. Software testing is the first line of defense in opposing attacks because it can support the discovery and removal of weaknesses in the systems. However, searching for flaws is a difficult and error-prone task, which has invariably overlooked vulnerabilities. The thesis proposes a novel methodology for vulnerability discovery that systematically generates and injects attacks, while monitoring and analyzing the target system. An attack that triggers an unexpected behavior provides a strong indication of the presence of a flaw. This attack can then be given to the developers as a test case to reproduce the anomaly and to assist in the correction of the problem. The main focus of the investigation is to provide a theoretical and experimental framework for the implementation and execution of attack injection on network servers. Several innovative solutions related to this approach are covered, including ways to infer a specification of the protocol implemented by the server, the generation of a comprehensive set of attacks, the injection and monitoring of the target system, and the automatic analysis of results. Furthermore, we apply some of the developed techniques to other areas of network security, namely to intrusion tolerance and detection. In particular, a new method is proposed to assist on the evaluation of the compliance of diverse replicas in intrusion-tolerant systems.O aumento da dependência e confiança depositada nos sistemas de rede, exige níveis de confiabilidade cada vez mais elevados. Infelizmente, novas ameaças e formas de ataque estão constantemente a surgir, explorando vulnerabilidades nos sistemas e comprometendo a sua correta operação. Uma intrusão num servidor de rede pode afetar os seus utilizadores e ter graves repercussões noutros serviços, eventualmente abrindo novas brechas de segurança que podem ser exploradas por outros ataques. O teste de software é a primeira linha de defesa na oposição a ataques porque pode apoiar a descoberta e remoção de fraquezas dos sistemas. No entanto, a procura de falhas é uma tarefa difícil e propensa a erros, e que tem invariavelmente deixado escapar vulnerabilidades. A tese propõe uma nova metodologia para a descoberta da vulnerabilidades que permite a sistemática geração e injeção de ataques, e a simultânea monitorização e análise do sistema-alvo. Um ataque que desencadeie um comportamento inesperado é uma forte indicação da presença de uma falha. Este ataque pode então ser dado à equipa de desenvolvimento como um caso de teste para reproduzir a anomalia e para auxiliar na correção do problema. O foco principal da investigação é fornecer um quadro teórico e experimental para a concretização e execução da injeção de ataques em servidores de rede. Diversas soluções inovadoras relacionadas com esta abordagem são estudadas, incluindo a inferência da especificação do protocolo concretizado pelo servidor, a geração de um conjunto abrangente de ataques, a injeção e monitorização do sistema-alvo e a análise automática dos resultados. Além disso, aplicamos algumas das técnicas aqui desenvolvidas noutras áreas de segurança de redes, nomeadamente, para a tolerância e deteção de intrusões. Em particular, é proposto um novo método para a avaliação da conformidade de réplicas em sistemas tolerantes a intrusões com diversidade.Fundação para a Ciência e a Tecnologia (FCT, SFRH/BD/-44336/2008, projetos POSC/EIA/61643/2004 (AJECT) e PTDC/EIA-EIA/100894/2008 (DIVERSE); Multi-annual and CMU-Portugal Programmes; European Comission, projetos IST-2004-27513 (CRUTIAL) e FP7-257475 (MASSIF)