Evolutionary strategies as an alternative to backpropagation methods

Den mest brukte treningsmetoden i maskinlæringsfeltet er backpropagation. Men denne metoden er kjent for å ha enkelte svakheter med generalisering og støymiljø. Evolutionary Strategies (ES) derimot, har vist seg å kunne være et alternativ til de mer populære treningsmetodene innenfor Reinforcement Learning, men den største utfordringen er den lange treningstiden. Det skal forskes på Adam, en velkjent backpropagation metode basert på gradient descent estimering, sammenlignet med ES. Modellen baserer seg på nevrale cellulære tilstandsmaskiner, som er et selvorganiserende system av celler kontrollert av felles oppdateringsregler. Denne tilstandsmaskinen kan oppnå avanserte egenskaper, og vi ønsker å undersøke hvordan Adam og ES oppfører seg når tilstandsmaskinen trenes til å danne et spesifikt bilde. Eksperimentene baserer seg på å skade disse tilstandsmaskinene på forskjellige måter og analysere resultatene. De viktigste resultatene viser at ES er mer robust enn Adam. Likevel, når modellen med Adam er optimalisert til å gro, er det vanskelig å oppdage signifikante forskjeller på de regenerative egenskapene mellom Adam og ES