Aplicação de técnicas de XAI em redes neurais convolucionais na classificação de lesões de pele

Trabalho de Conclusão de Curso (graduação)—Universidade de Brasília, Faculdade UnB Gama, Engenharia Eletrônica, 2021.Modelos de machine learning estão cada vez mais presentes no dia a dia. Com o crescimento do poder computacional verificou-se um aumento na complexidade desses modelos. Devido a alta complexidade, principalmente, em redes neurais profundas conhecidas como “caixas pretas“. pois é extremamente difícil como o modelo lida com os dados de entrada. O presente trabalho tem como finalidade aplicar duas grandes técnicas de XAI: baseado em perturbações usando LIME e outras cinco técnicas baseada no cálculo de gradiente e como essas técnicas fornecem recursos para o entendimento da base do processo de decisão feito pela rede neural profunda. Na mesma linha, compara quais métodos fornecem os melhores recursos para análises humanas..Para tanto, foi desenvolvido um modelo que classifica 9 tipos de lesões de pele, sendo 4 tipos malignos. Esse modelo foi utilizado para classificar um conjunto de imagens de 9 tipos de lesões diferentes com a finalidade de analisar as técnicas de interpretabilidade de cada amostra isolada amostras.Essas doenças afetam mais de 14,1 milhões de pacientes e tem sido a causa de mais de 8,2 milhões de mortes no mundo. Para auxiliar os diagnósticos clínicos é necessário avaliar o processo de decisão do modelo. Para tratar-se de decisões sensíveis é necessário confiabilidade baseado na interpretabilidade do modelo. Com o auxílio do modelo e os insight gerados a partir da explicabilidade dos padrões aprendidos, pode-se criar novas metodologias de classificação de lesões por profissionais da saúde.Machine learning models have become more present in every-day life. Computing power has grown exponentially in the last few years as well as models complexities. Due to the high complexity of models, especially in deep neural networks, they are now known as "black boxes", because it’s too difficult to understand how they deal with input data. This work focuses on applying two major XAI techniques: perturbation-based using LIME and other five techniques using Gradient-based and how those methods provide resources to understand what is the base decision process done by a deep neural network. Also, compare what kind of methods provide the best resources for human analises. Therefore, a skin’s lesion classifier model was developed to classify 9 classes, being 4 of these malignant, including Malignant Melanoma and Basal Cell Carcinoma. This model was used to predict a test sample of 9 different classes of lesions in order to analyze each interpretability technique applied locally in each sample. Those diseases threaten more than 14.1 million patients and have been the cause of more than 8.2 million deaths worldwide. In order to assist clinic diagnosis is necessary to evaluate a model’s decision process. As the model deals with sensitivity decisions, reliability is required based on the model’s interpretability. As the model’s insights have grown they will be useful in further classification’s methodologies in the health industry