Deep Learning Algorithms for Solving PDEs - Presentation and Implementation of Deep Learning Algorithms for Solving Semi-Linear Parabolic PDEs with an Extension to the Fractional Laplace Operator

I juni 2017 presenterer Weinan E, Jiequn Han og Arnulf Jentzen en banebrytende algoritme, Deep Backward Stochastic Differential Equation (Deep BSDE), for å løse partielle differensiallikninger (PDEer) ved bruk av dyp læring. I februar 2019 introduserer Côme Huré, Huyên Pham og Xavier Warin en modifikasjon av Deep BSDE, Deep Backward Dynamic Programming (DBDP). DBDP kommer i to varianter. Målet til algoritmene er å unngå dimensjonenes forbannelse. Dette gjøres ved å reformulere PDEene til læringsproblemer. En grundig beskrivelse av det teoretiske fundamentet bak algoritmene er gitt. Vi trenger innsikt i stokastisk analyse for å forstå hvordan PDEer reformuleres til et par stokastiske differensiallikninger. Nevrale nettverk introduseres slik at de kan brukes til å tilnærme ukjente i de stokastiske differensiallikningene. Kildekoden til DBDP er ikke offentliggjort. Derfor har de to variantene av DBDP blitt implementert i Python ved bruk av TensorFlow 2.0-rammeverket. Deep BSDE og DBDP er testet på et utvalg av problemer innen forskjellige vitenskapsgrener. Numeriske resultater viser at både Deep BSDE og de to variantene av DBDP løser 100-dimensjonale semilineære parabolske PDEer i de fleste tilfeller. Begge variantene av DBDP konvergerer til en feil verdi for kun ett av testeksemplene. Selv om den relative approksimasjonsfeilen er noe høy, av orden 1%, i de fleste tilfeller, vil slike høydimensjonale likninger ikke være mulig å løse ved tradisjonelle metoder. Til slutt utledes en algoritme som kan løse likninger som inneholder den fraksjonelle Laplace-operatoren. Algoritmen er inspirert av de dype læringsalgoritmene for å løse PDEer, i særdeleshet DBDP. Algoritmen er implementert i Python ved bruk av TensorFlow 2.0-rammeverket. Noen numeriske resultater er presentert og viser at algoritmen lider av ustabilitet, men er likevel i stand til å produsere meningsfulle resultater i noen en-dimensjonale tilfeller