Ordonnancement des données d'entrée sortie à l'échelle

En calcul haute performance, les plateformes (supercalculateurs) sont composées de ressources de calcul multiples divisées en étagères.Chacune d’elles possède un (ou plusieurs) nœuds d’E/S dédiés à l’accès au système de fichiers parallèles. Suivant la croissance et l’optimisation des machines, les quantités de données mises en jeux dans les calculs augmentent. Comme différentes parties de ces plateformes sont allouées à des applications indépendantes, et comme le système de stockage est partagé par toutes, de trop nombreux accès concurrent peuvent mener à de la contention et à une perte de performance.Cette thèse consiste à étudier des stratégies de placement d’applications sur la plateforme et comment ordonner les différents accès au système de stockage afin d’éviter la contention.Nous discutons de la pertinence de nos solutions à la fois du point de vue des administrateurs (en utilisant le débit) et du point de vue des utilisateurs (à travers le ralentissement).Dans une première partie, nous considérons que le placement effectué en amont et nous concentrons sur l’étude de l’ordonnancement des accès à la bande passante dans le but de minimiser la latence. Nous montrons que le problème d’ordonnancement d’E/S standard est NP-difficile. Nous étudions donc des cas simples et montrons la pertinence d’heuristiques de listes.Dans une seconde partie, nous étendons notre problématique au placement des applications sur les nœuds afin de limiter les accès concurrents.Afin de résoudre ce problème, nous proposons un algorithme par paquets qui, sur un nœud d’E/S simple diminue considérablement le ralentissement tout en dégradant seulement légèrement le temps total d’exécution. Cependant cette dégradation est la conséquence logique d’un plus grand contrôle sur les ressources utilisées. Cela permet un meilleur passage à l’échelle quand le nombre de nœuds d’E/S augmente tout en facilitant la récupération des des ressources inutilisées par des méthodes de remblayage par exemple.Enfin, nous étudions comment étendre les stratégies standard de gestion de ressource telles que les heuristiques de liste et les techniques susmentionnées d’ordonnancement par paquets dans le but d’inclure les E/S et ce que cela signifie en terme d’utilisation de ressources et de performance.De telles stratégies, sont largement utilisées par les plateformes de calcul haute performance pour l’allocation de ressources en raison de leur simplicité. Nous observons que les stratégies par paquets induisent une limitation en moyenne qui permet des phases d’E/S intensives à la condition qu’elles soient compensées au cours de l’exécution. En comparaison, les stratégies de listes suivent constamment la restriction prescrite et sont par conséquent plus restrictives.Il en résulte que les stratégies par paquets sont préférables lorsque de grandes quantités de données relativement à la bande passante disponible sont impliquées.Dans la majeure partie de notre travail, nous considérons que les accès à la bande passante sont exclusifs. Cependant, en soulignant des différences notables de performances en fonction du degré de similarité des applications, nous montrons que certains de ces accès devraient être exécutés en parallèle. En conclusion, nous esquissons des développement récents de nos modèles cherchant à déterminer quelles partitions d’applications seraient concernées.In high performance computing, platforms (the supercomputers) are composed of computational resources divided into racks. Each rack have one (sometimes several) I/O nodes to access the parallel file system (PFS). Following the growth and the optimization of the machines, the amount of data involved in the calculation is increasing. As different parts of these racks are allocated to independent applications, and as the storage is shared between these, too many concurrent accesses can lead to contention and performance loss.This thesis consist in studying strategies to map applications on the platform and scheduling the different accesses to the storage system in order to avoid contention. We discuss the relevance of our solution both from the administrators point of view (using the throughput) and from the users one (using stretch).In a first part, we assume that the mapping was done upstream and only study the scheduling of bandwidth accesses in order to minimize the latency. We show the intractability of the standard I/O scheduling problem, discuss some simple cases and show the relevance of List-scheduling policies.In a second part, we extend our problematic to the problem of mapping applicationsinto the nodes in order to avoid concurrent accesses.To solve this problem, we propose a pack algorithm which, on a single I/O node, increases greatly the stretch while slightly degrading the makespan. However, this degradation in the consequence of a stricter control on resource usage. This allows to a better scaling with more I/O nodes as well as facilitating loss recovery with back-filling for example.Finally, we discuss how to extend standard resource management strategies such as list scheduling and the aforementioned pack scheduling in order to take I/O into account and what it means in terms of resource utilization and performance. Such strategies are largely used by HPC platform for resource allocation due to their simplicity. We observe that the pack scheduling policy induces a limitation on average that enables intensive I/O phases on condition that they are compensated during the execution. In comparison, list strategies always follow the prescribed restriction and are therefore more restrictive. It follows that pack scheduling are to be preferred when high quantities of data compared to the available bandwidth are involved. In most of our work, we considered that I/O accesses were exclusive. However, in highlighting notable performance discrepancies depending on the similarity between applications, we showed that some should be executed in parallel. As a conclusion, we discuss the recent development of our models seek to determine how to define these applications partitions