Correcting Classification: A Bayesian Framework Using Explanation Feedback to Improve Classification Abilities

Nevrale nettverk (NNs) har vist høy prediktiv ytelse, men med mangler. For det første er ikke årsakene bak klassifiseringene fullstendig forstått. Flere forklaringsmetoder er utviklet, men de har ikke mekanismer for brukere å samhandle med forklaringene. Forklaringer er sosiale, noe som betyr at de er en overføring av kunnskap gjennom interaksjoner. Likevel bidrar nåværende forklaringsmetoder bare til enveiskommunikasjon. For det andre har NN-er en tendens til å være for selvsikre, og gir urimelige usikkerhetsestimater på observasjoner som ikke kommer fra samme distribusjon. Vi overvinner disse vanskelighetene ved å trene et Bayesiansk Konvolusjonell nevrale nettverk (CNN) som bruker forklaringstilbakemeldinger. Etter trening presenterer modellen forklaringer på klassifiseringer av treningseksempler til en orakel. Basert på gitt informasjon kan orakelet godta eller avvise forklaringene ved å gi tilbakemelding. Den foreslåtte metoden vår bruker denne tilbakemeldingen til finjustering for å korrigere modellen slik at forklaringene og klassifiseringene forbedres. Vi bruker eksisterende CNN-arkitekturer for å demonstrere metodens effektivitet på ett leketøydatasett (decoy MNIST) og to ekte datasett (Dogs vs. Cats og ISIC skin cancer). Eksperimentene indikerer at få tilbakemeldinger- og finjusteringsepoker er nødvendig for å forbedre modellen og prediktiv ytelse, noe som gjør modellen mer pålitelig og forståelig