Detecção de tráfego anômalo de rede utilizando clusterização em Big Data

Dissertação (mestrado)—Universidade de Brasília, Faculdade de Tecnologia, Departamento de Engenharia Elétrica, 2020.Na sociedade atual, o volume de informações trafegadas pela Internet atinge patamares cada vez maiores. Todo o tipo de mensagens são trocadas na grande rede de computadores, incluindo dados confidenciais e sigilosos. Esse cenário atrai atividades de criminosos virtuais, que utilizam os mais diversos tipos de vulnerabilidades para roubar e manipular informações para interesse próprio. Diversas respostas podem ser utilizadas para tentar combater essa ameaça virtual, sendo uma delas utilizar técnicas de aprendizado de máquina para detectar tráfego potencialmente malicioso e tomar as devidas precauções. Devido à grande quantidade de informação disponível para se trabalhar, é necessário utilizar ferramentas de Big Data, para tratá-las de maneira eficiente. Propõe-se então uma arquitetura em ferramentas de Big Data para detectar anomalias no trá- fego de rede utilizando clusterização. Também é proposto que ela seja capaz de realizar o processa- mento do tráfego em tempo quase real, e que seja capaz de manter os modelos gerados atualizados de acordo com a variação da rede, através de retreinos periódicos. Na metodologia, é explicado os componentes da arquitetura proposta e como ocorre a comunicação entre eles. Nos experimentos, são testados dois cenários distintos: primeiramente, é feita uma análise offline com um dataset disponível na plataforma Kaggle, sendo seguido por uma análise online no servidor de proxy-reverso do laboratório Latitude. Por fim, são analisados os resultados coletados e métricas como acurácia, precisão, especificidade e tempo de predição são comparadas com outros trabalhos que possuem proposta similar.In modern society, the sheer volume of information sent through the Internet grows by the day. Many types of messages are exchanged on the Internet, including confidential and secret data. This scenario attracts the activity of cybercriminals, who can exploit vulnerabilities in order to manipulate and steal information for personal gain. Many answers arise from the growing virtual menace, including the use of machine learning techniques to detect potentially malicious traffic, which would give means to take the proper precautions. With the massive amount of data available nowadays, the use of Big Data frameworks becomes a necessity, to process it efficiently. We then propose an architecture using Big Data frameworks capable of detecting anomalies in network traffic using clustering techniques. It is also proposed that it should be able to process network traffic in near real time, and that the generated models should be kept updated according to the variation of network, through periodic retrains. In out methodology, we explain the components of the proposed architecture and how they communicate with each other. In the experiments, two different scenarios are tested: first, an offline analysis is performed with a dataset available on Kaggle, followed by an online analysis on the reverse proxy server from Latitude, a laboratory from the Electrical Engineering Department. Finally, the collected results are analyzed and metrics such as accuracy, precision, specificity and prediction times are compared with other papers with similar proposals