Topological order in a broken-symmetry state

À travers cette thèse, nous revisitons les différentes étapes qui ont conduit à la découverte des isolants topologiques, suite à quoi nous nous penchons sur la question à savoir si une phase topologiquement non-triviale peut coexister avec un état de symétrie brisée. Nous abordons les concepts les plus importants dans la description de ce nouvel état de la matière, et tentons de comprendre les conséquences fascinantes qui en découlent. Il s’agit d’un champ de recherche fortement alimenté par la théorie, ainsi, l’étude du cadre théorique est nécessaire pour atteindre une compréhension profonde du sujet. Le chapitre 1 comprend un retour sur l’effet de Hall quantique, afin de motiver les sections subséquentes. Le chapitre 2 présente la première réalisation d’un isolant topologique à deux dimensions dans un puits quantique de HgTe/CdTe, suite à quoi ces résultats sont généralisés à trois dimensions. Nous verrons ensuite comment incorporer des principes de topologie dans la caractérisation d’un système spécifique, à l’aide d’invariants topologiques. Le chapitre 3 introduit le premier dérivé de l’état isolant topologique, soit l’isolant topologique antiferromagnétique (ITAF). Après avoir motivé théoriquement le sujet et introduit un invariant propre à ce nouvel état ITAF, qui est couplé à l’ordre de Néel, nous explorons, dans les chapitres 4 et 5, deux candidats de choix pour la phase ITAF : GdBiPt et NdBiPt.In this thesis we will revisit the different steps that led to the discovery of the topological insulator before we then ask the question if a topologically non-trivial phase can coexist with a broken symmetry state. We will see the most important concepts in describing this new state of matter, and we will try to understand what its fascinating consequences are. This field of research is heavily driven by theory, therefore taking first a look at the underlying theoretical framework, will enable us to gain a deeper understanding of the subject. In Chapter 1 we will review the quantum Hall effect to motivate the subject. Chapter 2 deals with the first realization of a two-dimensional topological insulator in a HgTe/CdTe quantum well and then generalizes these results to 3 dimensions. We will also see how one can incorporate principles of topology to characterize a specific system with the use of topological invariants. Chapter 3 will introduce the first derivative of the topological insulator state, the antiferromagnetic topological insulator (AFTI). After theoretically motivating the subject and introducing a proper invariant for this new AFTI phase that is coupled to the Néel order, we will then investigate in Chapters 4 and 5, two prime candidates for the AFTI phase; GdBiPt and NdBiPt