Sur la vérification de systèmes infinis

This thesis is about the verification problem of systems having an infinite number of states. These systems can be described by several formalisms like process algebras or automata together with unbounded data-structures (push-down automata, Petri nets or communicating finite-state machines). In a first part of the thesis we study the characterization of classes of infinite-state systems and properties for which the verification problem is decidable. First, we consider the complexity of the verification problem of the linear-time mu-calculus for Petri nets. Then, we define temporal logics which allow to express non-regular properties containing linear constraints on the number of occurrences of events. These logics are more expressive than known logics in this domain. We show in particular that the verification problem of a logic which is more expressive than the linear-time mu-calculus is decidable for classes of systems like push-down automata and Petri nets. A second part of the thesis is dedicated to communicating finite-state machines. Their verification problem is in general undecidable. We apply the symbolic analysis principle to these systems. We propose finite structures which allow to represent and manipulate infinite sets of configurations of these systems. These structures allow to calculate the exact effect of a repeated execution of every circuit in the transition graph of the system. Thus, every circuit of the transition graph of the system can be considered as a new "transition" of the system. We use this result to accelerate the computation of the set of reachable states of a system in order to increase the chance of termination.Cette thèse traite du problème de la vérification de systèmes ayant un nombre infini d'états. Ces systèmes peuvent être décrits par plusieurs formalismes tels que des algèbres de processus ou des automates finis munis de structures de données non-bornées (automates à pile, réseaux de Petri ou systèmes à files). Dans une première partie de la thèse nous nous intéressons à la caractérisation de classes de systèmes infinis et de propriétés pour lesquels le problème de vérification est décidable. Nous considérons d'abord la complexité de la vérification du mu-calcul linéaire pour les réseaux de Petri. Ensuite, nous définissons des logiques temporelles qui permettent d'exprimer des propriétés non-régulières comportant des contraintes linéaires sur le nombre d'occurrences d'événements. Ces logiques sont plus expressives que les logiques utilisées dans le domaine. Nous montrons en particulier que le problème de la vérification d'une logique qui est plus expressive que le mu-calcul linéaire est décidable pour des classes de systèmes infinis telles que les automates à pile et les réseaux de Petri. Une deuxième partie de la thèse est consacrée aux systèmes communicant par files d'attente, dont le problème de vérification est en général indécidable. Nous appliquons le principe de l'analyse symbolique à ces systèmes. Nous proposons des structures finies qui permettent de représenter et de manipuler des ensembles infinis de configurations de tels systèmes. Ces structures permettent de calculer l'effet exact d'une exécution répétée de tout circuit dans le graphe de transitions du système. Ainsi, chaque circuit peut être considéré comme une nouvelle "transition" du système. Nous utilisons ce résultat pour accélérer le calcul de l'ensemble des configurations atteignables d'un système afin d'augmenter les chances de terminaison de ce calcul