Effets physiques et biologiques des faisceaux de protons balayés : mesures et modélisation pour des balayages séquentiels à haut débit

The main objective of this thesis is to develop and optimize algorithms for intensity modulated proton therapy, taking into account the physical and biological pencil beam properties. A model based on the summation and fluence weighted division of the pencil beams has been used. A new parameterization of the lateral dose distribution has been developed using a combination of three Gaussian functions. The algorithms have been implemented into a treatment planning system, then experimentally validated and compared with Monte Carlo simulations. Some approximations have been made and validated in order to achieve reasonable calculation times for clinical purposes. In a second phase, a collaboration with Institut Curie radiobiological teams has been started in order to implement radiobiological parameters and results into the optimization loop of the treatment planning process. Indeed, scanned pencil beams are pulsed and delivered at high dose rates (from 10 to 100 Gy/s), and the relative biological efficiency of protons is still relatively unknown given the wide diversity of use of these beams: the different models available and their dependence with linear energy transfers have been studied. A good agreement between dose calculations and measurements (deviations lower than 3 % and 2 mm) has been obtained. An experimental protocol has been set in order to qualify pulsed high dose rate effects and preliminary results obtained on one cell line suggested variations of the biological efficiency up to 10 %, though with large uncertainties.L'objectif principal de cette thèse est de développer et optimiser les algorithmes caractérisant les propriétés physiques et biologiques des mini-faisceaux de protons pour la réalisation des traitements avec modulation d'intensité. Un modèle basé sur la superposition et décomposition des mini-faisceaux en faisceaux élémentaires a été utilisé. Un nouveau modèle de description des mini-faisceaux primaires a été développé à partir de la sommation de trois fonctions gaussiennes. Les algorithmes ont été intégrés dans un logiciel de planification de traitement, puis validés expérimentalement et par comparaison avec des simulations Monte Carlo. Des approximations ont été réalisées et validées afin de réduire les temps de calcul en vue d'une utilisation clinique. Dans un deuxième temps, un travail en collaboration avec les équipes de radiobiologie de l'institut Curie a été réalisé afin d'introduire des résultats radiobiologiques dans l'optimisation biologique des plans de traitement. En effet, les faisceaux balayés sont délivrés avec des débits de dose très élevés (de 10 à 100 Gy/s) et de façon discontinue, et l'efficacité biologique des protons est encore relativement méconnue vue la diversité d'utilisation de ces faisceaux : les différents modèles disponibles et notamment leur dépendance avec le transfert d'énergie linéique ont été étudiés. De bons accords (écarts inférieurs à 3 % et 2 mm) ont été obtenus entre calculs et mesures de dose. Un protocole d'expérimentation pour caractériser les effets des hauts débits pulsés a été mis en place et les premiers résultats obtenus sur une lignée cellulaire suggèrent des variations d'efficacité biologique inférieures à 10 %, avec toutefois de larges incertitudes