Svensk biomedicinsk textbrytningoch klassificering

AbstractManual classification of text is both time consuming and expensive. However, it is anecessity within the field of biomedicine, for example to be able to quantify biomedical data.In this study, two different approaches were researched regarding the possibility of usingsmall amounts of training data, in order to create text classification models that are able tounderstand and classify biomedical texts. The study researched whether a specialized modelshould be considered a requirement for this purpose, or if a generic model might suffice. Thetwo models were based on publicly available versions, one specialized to understand Englishbiomedical texts, and the other to understand ordinary Swedish texts. The Swedish modelwas introduced to a new field of texts while the English model had to work on translatedSwedish texts.The results were quite low, but did however indicate that the method with the Swedish modelwas more reliable, performing almost twice as well as the English correspondence. The studyconcluded that there was potential in using general models as a base, and then tuning theminto more specialized fields, even with small amounts of data.KeywordsNLP, text-mining, biomedical texts, classification, labelling, models, BERT, machinelearning, FIC, ICF.Sammanfattning Manuell klassificering av text är tidskonsumerande och kostsamt, däremot är det en nödvändighet inom exempelvis biomedicinska områden för att kunna kvantifierabehandlingen av data. I denna studie undersöktes två alternativa sätt att utan tillgång till stora mängder data, kunna framställa textklassificeringsmodeller som kan förstå och klassificerabiomedicinsk text. Studien undersökte ifall om en specialiserad modell borde anses som ettkrav för detta, eller ifall om en generisk modell kan räcka till. Båda modellerna som användesvar baserade på allmänt tillgängliga versioner, en som var tränad att förstå engelskbiomedicinsk text och en annan som var tränad att förstå vanlig svensk text. Den svenskamodellen introducerades till ett nytt område av text medan den engelska modellen arbetade påöversatta svenska texter. Resultatet visade att den svenska modellen kunde förstå och klassificera texten nästan dubbeltså effektivt som den engelska, däremot med en relativt låg grad av träffsäkerhet. Slutligenkunde slutsatsen dras att den använda metoden visade potential vid träning av modeller, ochvid brist på större datamängder borde generellt tränade modeller kunna nyttjas som bas för attsedan kunna specialiseras till andra områden. Nyckelord NLP, textbrytning, biomedicinska texter, klassificering, märkning, modeller, BERT,maskininlärning, FIC, ICF