Knowledge Extraction From Neural Networks : A Survey

Artificial neural networks may learn to solve arbitrary complex problems. But knowledge acquired is hard to exhibit. Thus neural networks appear as ``black boxes'', the decisions of which can't be explained. In this survey, different techniques for knowledge extraction from neural networks are presented. Early works have shown the interest of the study of internal representations, but these studies were domain specific. Thus, authors tried to extract a more general form of knowledge, like rules of an expert system. In a more restricted field, it is also possible to extract automata from neural networks, likely to recognize a formal language. Finally, numerical information may be obtained in process modelling, and this may be of interest in industrial applications.Les réseaux de neurones artificiels peuvent apprendre à résoudre des problèmes complexes; Mais les connaissances qu'ils peuvent acquérir sont difficilement utilisables. Aussi apparaissent-ils comme des "boites noires" dont les décisions ne peuvent être expliquées. Dans ce rapport, plusieurs techniques permettant l’extraction de connaissances sont présentées; les premiers travaux dans ce domaine ont montré l’intérêt de l’étude des représentations internes, mais ces travaux sont très dépendants du domaine d'étude. Aussi, certains auteurs ont essayé d'extraire des connaissances sous une forme plus générale, comme des règles d'un système expert. Dans un autre domaine, il est également possible d'extraire, à partir de réseaux de neurones, des automates reconnaissant un langage formel. Enfin, des informations d'ordre numérique peuvent être obtenues dans la modélisation des systèmes, ce qui peut représenter un intérêt pour des applications industrielles