Tillit till AI inom sjukvården : En fallstudie i vad som krävs för att vårdpersonal ska känna tillit tillAI-baserade diagnostiseringssystem

Ett ökat intresse för artificiell intelligens (AI) under de senaste åren har lett till att potentiellaanvändningsområden utforskats i större grad. Inom sjukvården finns flera möjligaappliceringar av AI, framförallt har nyttan av AI inom bildanalys och diagnostik studerats.I denna undersökning genomförs en kvalitativ fallstudie med syfte att undersöka i vilkenutsträckning sjukvårdspersonal känner tillit till AI-baserade system för diagnostik och vadsom påverkar denna tillit.Deltagare med olika roller och erfarenhet inom sjukvården har intervjuats, och deras svar haranalyserats för att undersöka hur deras inställning till AI ser ut samt vilka förutsättningar somkrävs för att uppnå en rimlig nivå av tillit till AI-baserade system för diagnostik. Hur stor tillitrespondenterna hade för AI inom sjukvården var beroende på tidigare erfarenheter ochupplevelser, men generellt hade man en relativt stor tillit så länge vissa förutsättningar harmötts. Dessa förutsättningar är följande; i) AI inom sjukvården fungerar bäst som beslutsstöd,ii) kunskap och förståelse krävs för att känna tillit till AI, iii) AI måste vara minst likakompetent som sjukvårdspersonalen, iv) AI måste kunna förklara sitt resonemang och visasin träffsäkerhet samt v) ackreditering bidrar till att öka tilliten.An increase in interest for artificial intelligence (AI) in the past years has led to anexploration of the potential areas of use. In healthcare, there are several possible applicationsof AI, most prominently the benefits of AI within medical imaging and diagnostics have beenstudied.In this thesis, a qualitative case study is performed, with the aim to investigate to what extenthealth care staff trust diagnostic AI systems, and what affects this trust.Participants with different professional roles and varying experience within healthcare havebeen interviewed, and their responses have been analysed to identify what aspects should bekept in mind and what prerequisites are required in order to reach a reasonable level of trusttowards AI-based diagnostics systems. The trust levels of the participants varied based onpast experiences, however the general level of trust was high as long as certain prerequisiteswere met.These prerequisites are; i) AI in healthcare works best when used as a decisionsupport system, ii) knowledge and understanding is required to trust AI, iii) AI must be atleast as competent as the healthcare staff themselves, iv) AI must be able to explain itsreasoning and show its accuracy, and v) accreditation contributes to increasing trust