Exploring variable accuracy storage through lossy compression techniques in numerical linear algebra: a first application to flexible GMRES

Large scale applications running on HPC systems often require a substantial amount of memory and can have a large computational overhead. Lossy data compression techniques can reduce the size of the data and associated communication cost, but the effect of the loss ofaccuracy on the numerical algorithm can be hard to predict. In this paper we examine the FGMRES algorithm, which requires the storage of a basis for the Krylov subspace and for the search space spanned by the solutions of the preconditioning systems. We show that the vectors spanning this search space can be compressed by looking at the combination of FGMRES and compression in the context of inexact Krylov subspace methods. This allows us to derive a bound on the normwise relative compression error in each iteration. We use this bound to formulate a number of different practical compression strategies, and validate and compare them through numerical experiments.Les applications à grande échelle fonctionnant sur des systèmes HPC nécessitent souvent une quantité importante de mémoire et peuvent avoir une charge de calcul importante.Les techniques de compression de données avec perte peuvent réduire la taille des données et les coûts de communication associés, mais l’effet de la perte de précision sur l’algorithme numérique peut être difficile à prévoir. Dans cet article, nous examinons l’algorithme FGMRES, qui nécessite le stockage d’une base pour le sous-espace de Krylov et pour l’espace de recherche couvert parles solutions des systèmes de préconditionnement. Nous montrons que les vecteurs couvrant cet espace de recherche peuvent être comprimés en examinant la combinaison de FGMRES et de la compression dans le contexte des méthodes inexactes du sous-espace de Krylov. Cela nous permet de dériver une borne sur l’erreur de compression relative normale dans chaque itération. Nous utilisons cette limite pour formuler un certain nombre de stratégies de compression pratiques différentes, et les valider et les comparer par des expériences numériques