The problem of forgetting in deep learning algorithms

Ta praca magisterska jest rezultatem badań prowadzonych na Uniwersytecie Jagiellońskim nad sztuczną inteligencją i dotyczy zagadnienia problemu zapominania wyuczonych wcześniej informacji przez sieć neuronową w wyniku przyswojenia nowych danych. Takie zjawisko nazywane jest efektem katastrofalnego zapomnienia. Całe badania były skupione głównie na kwestii uczenia ciągłego modelu sztucznej inteligencji jakie występuje naturalnie chociażby u człowieka, a więc w znacznym stopniu dotyczą one bardziej technik meta uczenia sieci neuronowych niżeli technicznej czy kodowej ich strony. Na wstępie praca objaśnia sam problem zapominania wcześniej zdobytej wiedzy przez model oraz tłumaczy czemu rozwiązanie tego problemu jest tak ważne w tej dziedzinie algorytmiki. Potem w pracy umieszczona została spora cześć teoretyczna wyjaśniająca zagadnienia takie jak algorytm MAML, EWC czy Continual Learning (C-MAML), pomysły pozwalające walczyć stosunkowo skutecznie z problemem katastrofalnego zapomnienia. Te trzy rozdziały mają również na celu przedstawić czytelnikowi pewną fundamentalną wiedzę, która jest potrzebna do zrozumienia głównej części pracy, czyli samych badań. Sercem tej magisterki jest opis całych badań nad próbą ulepszenia wcześniej wykorzystanych technik (takich jak C-MAML), by te mogły radzić sobie jeszcze lepiej podczas praktycznego ich użytku w systemach sztucznej inteligencji. Tutaj pojawia się algorytm Multi MAML, który został wymyślony w trakcie badań, a którego idea została opisana w pracy w rozdziale czwartym. Ostatnimi dwoma elementami pracy jest dokładne zestawienie wyników najważniejszych prototypów Multi MAML-a stworzonych podczas półrocznych badań wraz z opisem kluczowych dla tematu eksperymentów. Na samym końcu, w ostatnim rozdziale zostało umieszczone obszerne podsumowanie badań z oceną końcową przedsięwzięcia i prywatnymi spostrzeżeniami. Za tym rozdziałem, znajduje się cała bibliografia do której również warto zajrzeć.This master's thesis is the result of artificial intelligence research conducted at the Jagiellonian University and mainly focus on concerns the problem of forgetting previously learned information by the neural network in case of receiving new data during continual learning. Such a phenomenon is called catastrophic forgetting in the field of artificial intelligence. The entire research was focused on the issue of continuous learning of the artificial intelligence model that occurs in nature (example is the way people learn), so this paper relate more to meta-learning techniques of neural networks than to their technical or coding side. At the beginning, the work explains the problem of forgetting the previously acquired knowledge by the model and explains why solving this problem is so important in this field of algorithmics. Then, a large theoretical part was included in the thesis, explaining things such as the MAML algorithm, EWC or Continual Learning (C-MAML), ideas that allows to avoid the problem of catastrophic forgetting effectively. These three chapters are also intended to provide the reader with some fundamental knowledge that is needed to understand the main part of the thesis, which are the research itself. Most important of this master's thesis is a description of entire research in an attempt to improve previously used techniques (such as C-MAML) so that they can do even better when used in practice in artificial intelligence systems. Here comes the Multi MAML algorithm, which was invented during the research, and the idea of which was described in the work in chapter four. The last two elements of the work are a detailed summary of the results of the most important Multi MAML prototypes created during the six-month research, along with a description of the experiments that are crucial to the topic. In the last chapter, a comprehensive study summary with a final evaluation of the results and private opinion were included. At the very end, there is an entire bibliography that is also worth looking at