Méthodes d'apprentissage profond 3D en radiothérapie pour la segmentation d'organes et la prédiction de distributions de dose

RÉSUMÉ: Le cancer de la tête et du cou se développe dans une région foisonnante d'organes, de tissus et de structures vitales. La radiothérapie externe est une des modalités privilégiées pour le traitement de ce cancer car les récentes innovations qu'elle a connues permettent d'administrer des doses à des tumeurs difficiles d'accès. Cette modalité nécessite cependant une longue période de planification, notamment pour les étapes de segmentation des structures et d'élaboration des plans de dose. Bien que le développement de méthodes automatiques permette de réduire ces deux étapes de plusieurs dizaines de minutes, la production de traitement pour cette région complexe se compte encore en heures. La récente évolution des modèles d'apprentissage profond et plus particulièrement les réussites des réseaux de neurones convolutifs ont accéléré la recherche de nouvelles méthodes dans ce domaine. Des tâches de segmentation et de régression sont abordées avec des réseaux profonds qui, à l'issue d'un entraînement minutieux, produisent des résultats en quelques secondes seulement. Dans ce mémoire, nous présentons deux méthodes basées sur les encodeur-décodeurs convolutifs 3D pour aider à la planification des plans de doses. Une première méthode de segmentation automatique d'organes est développée pour une base de données interne de patients atteints du cancer de la tête et du cou. La solution proposée aborde les méthodes de transfert de poids et démontre les bienfaits de l'initialisation des réseaux avec une moyenne de poids. Le score de Dice moyen obtenu sur l'ensemble des organes considérés est de 0.75. Cela semble indiquer que les modèles entraînés pour la segmentation d'organes distincts disposent d'information transférable entre modèles. Une deuxième méthode répondant au besoin d'outils efficaces de génération de distribution de dose est ensuite proposée. La solution présentée est à la fois testée sur une base de données interne comportant des variations réalistes et sur une base de données publique standardisée. Dans les deux cas, l'architecture enrichie d'un objectif mixte incluant des aspects cliniques démontre des performances accrues face à deux architectures de l'état de l'art avec 0.95 (0.98) pour la couverture D95, 1.06 (1.07) pour la dose maximale, 0.10 (0.08) pour l'homogénéité et 0.53 (0.79) pour l'index de conformité sur la base de données interne (publique). Le modèle proposé inclut des convolutions denses et des modules d'attention portés par des couches choisies et offre des capacités de prédiction en temps réel. Les deux méthodes pourraient ainsi être intégrées en clinique pour la radiooncologie, fournissant respectivement un outil de segmentation automatique et un outil de visualisation de plans de dose. ABSTRACT: Head and neck cancers develop in a region of abundance and variability of structures. External radiotherapy is one of the most common type of treatment for this kind of cancer and has benefited from recent innovations that both reduces the time of the process and facilitates delivering radiations to intricate areas of tumor growth. However, that treatment modality endures long planning times, notably through the need of accurate structure segmentations and dose plans. Automatic contouring methods have shortened these steps, yet treatment planning remains very time-consuming for such a challenging site. This is in part due to the very high number of iterations needed to produce both clinically desirable and physically deliverable dose plans. The recent deep learning breakthroughs, notably illustrated by the achievements of convolutional neural networks, has fostered research for new methods in the field. Deep neural networks thoroughly trained for segmentation and regression problems even show real-time capabilities. In this thesis, we present two 3D convolutional encoder-decoder-based methods for radiation therapy planning. A first method for automatic organ segmentation was developed and tested on an in-house dataset of head and neck cancer patients. The proposed solution relies on transfer learning methods and illustrates the superiority of a weight averaged initial state against simple transfer learning. We obtained a Dice score of 0.75 on average on all organs. This seems to indicate that models trained for different organs share several common features and could thus benefit from other predictor's weights. A second method that addresses dose plan prediction was tested on two distinct datasets: an in-house dataset that reflects realistic variability and a more standardized dataset publicly available. The architecture was trained using a mixed objective that includes clinical knowledge and demonstrates the best performance on both datasets compared against two state of the art models reaching 0.95 (0.98) on D95 coverage, 1.06 (1.07) on max dose value, 0.10 (0.08) on homogeneity and 0.53 (0.79) on conformity index for the in-house (public) dataset. This emphasizes the relevance of domain knowledge to predict accurate dose distributions as it helps reducing the tradeoff between tumor coverage and sparing of organs. The proposed model integrates cheap dense convolutions and attention modules and offers real-time capabilities. The two methods could be easily integrated within the clinical workflow as an automatic segmentation tool and a dose visualization tool respectively