Galerkin method using optimized wavelet-Gaussian mixed bases for electronic structure calculations in quantum chemistry

Cette thèse apporte une contribution aux méthodes numériques pour la simulation moléculaire ab initio, et plus spécifiquement pour le calcul de structures électroniques par l’équation de Schrödinger, ou par des formalismes comme la théorie de Hartree-Fock ou la théorie de la fonctionnelle de la densité. Elle propose une stratégie pour construire des bases mixtes ondelettes-gaussiennes dans l’approximation de Galerkin, combinant les qualités respectives de ces deux types de bases avec l’objectif de mieux capturer les points de rebroussement de la fonction d’onde. Les nombreux logiciels actuellement disponibles à l’usage des chimistes dans ce domaine (VASP, Gaussian, ABINIT...) se différencient par divers choix méthodologiques, notamment celui des fonctions de base pour exprimer les orbitales atomiques. Nouvel arrivant sur le marché, le code massivement parallèle BigDFT a opté pour les bases d’ondelettes. Comme le nombre de niveaux de résolution y est limité pour des raisons de performance,ces fonctions ne peuvent déployer pleinement leur puissance. La question posée est alors de savoir comment accroître la précision des calculs tous électrons au voisinage des singularités de type cusp de la solution, sans augmenter excessivement la complexité de BigDFT. La réponse que nous suggérons consiste à enrichir la base de fonctions d’échelles (niveau de résolution bas des bases d’ondelettes) par des fonctions gaussiennes centrées sur chaque position de noyau. La difficulté principale dans la construction d’une telle base mixte réside dans la détermination optimale du nombre de gaussiennes requises et de leurs écarts-types, de sorte que ces gaussiennes supplémentaires soient le mieux possible compatibles avec la base existante sous la contrainte d’un seuil d’erreur donné à l’avance. Nous proposons pour cela l’utilisation conjointe d’un estimateur a posteriori sur la diminution du niveau d’énergie et d’un algorithme glouton, ce qui aboutit à une suite incrémentale quasi-optimale de gaussiennes supplémentaires. Cette idée est directement inspirée des techniques de bases réduites. Nous développons les fondements théoriques de cette stratégie sur deux modèles 1-D linéaires qui sont des simplifications de l’équation de Schrödinger pour un électron,posée en domaine infini ou domaine périodique. Ces modèles prototypes sont étudiés en profondeur dans la première partie. La définition de l’estimateur a posteriori de type norme duale du résidu, ainsi que la déclinaison de la philosophie glouton en différents algorithmes concrets, sont présentées en seconde partie, accompagnées de résultats numériques. Les algorithmes proposés vont dans le sens d’une économie croissante du temps de calcul.Ils sont aussi de plus en plus empiriques, au sens où ils reposent de plus en plus sur les intuitions avec lesquelles les chimistes sont familiers. En particulier, le dernier algorithme pour plusieurs noyaux s’appuie en partie sur la validité du transfert atome/molécule et rappelle dans une certaine mesure les bases d’orbitales atomiques.This thesis aims to be a contribution to numerical methods for ab initio molecular simulation, and more specifically for electronic structure calculations by means of the Schrödingerequation or formalisms such as the Hartree-Fock theory or the Density Functional Theory. It puts forward a strategy to build mixed wavelet-Gaussian bases for the Galerkinapproximation, combining the respective advantages of these two types of bases in orderto better capture the cusps of the wave function.Numerous software programs are currently available to the chemists in this field (VASP,Gaussian, ABINIT... ) and differ from each other by various methodological choices,notably that of the basis functions used for expressing atomic orbitals. As a newcomer tothis market, the massively parallel BigDFT code has opted for a basis of wavelets. Dueto performance considerations, the number of multiresolution levels has been limited andtherefore users cannot benefit from the full potential of wavelets. The question is thus howto improve the accuracy of all-electron calculations in the neighborhood of the cusp-typesingularities of the solution, without excessively increasing the complexity of BigDFT.The answer we propose is to enrich the scaling function basis (low level of resolutionof the wavelet basis) by Gaussian functions centered on each nucleus position. The maindifficulty in constructing such a mixed basis lies in the optimal determination of the numberof Gaussians required and their standard deviations, so that these additional Gaussiansare compatible in the best possible way with the existing basis within the constraint of anerror threshold given in advance. We advocate the conjunction of an a posteriori estimateon the diminution of the energy level and a greedy algorithm, which results in a quasi-optimal incremental sequence of additional Gaussians. This idea is directly inspired bythe techniques of reduced bases.We develop the theoretical foundations of this strategy on two 1-D linear models thatare simplified versions of the Schrödinger equation for one electron in an infinite domainor a periodic domain. These prototype models are investigated in depth in the firstpart. The definition of the a posteriori estimate as a residual dual norm, as well as theimplementation of the greedy philosophy into various concrete algorithms, are presented inthe second part, along with extensive numerical results. These algorithms allow for moreand more saving of CPU time and become more and more empirical, in the sense thatthey rely more and more on the intuitions with which chemists are familiar. In particular,the last proposed algorithm partly assumes the validity of the atom/molecule transfer andis somehow reminiscent of atomic orbitals bases