Teachers' trust in AI-based education technology : A study in higher education in Singapore

Recently, there has been an increasing shift in education, where various digital technologies are applied to a greater extent. One of the emerging educational technologies is artificial intelligence (AI) technology, which is often argued to have the potential to reshape the traditional educational landscape through for example intelligent guidance and assessment systems, as well as personal learning environments. An article in Artificial Intelligence Review states that the education sector at universities is increasingly characterized by AI used by teachers and students, consisting of intelligent tutoring systems, teaching robots, and adaptive learning systems. Trust - which is considered the cornerstone of humanity's relationship with AI - is essential to this transformation. There is a considerable knowledge gap regarding how teachers experience trust in AI-based education technology, within higher education. Therefore, this exploratory case study aims to examine teachers' trust in AI, and more specifically within the context of Singaporean higher education. This study is based on an online survey where eight teachers participated. Although that is a low count of participants, the study explores the perceived trust in, and benefits of AI in an academic environment. Furthermore, where there is a lack of trust in AI diagnosis, it is due to the fact that today's AI technology often consists of black-box models that lack transparency of the system's internal functions work. Finally, concerning how teachers work alongside AI to improve pedagogy, the study concludes that implementing AI-based technology in higher education will never replace the traditional education system in terms of social interaction.Nyligen har det skett ett skifte inom utbildning där olika digitala teknologier tillämpas i allt större utsträckning. En av dessa teknologier är artificiell intelligens (AI), som ofta hävdas kunna omforma det traditionella utbildningslandskapet genom personliga inlärningsmiljöer och intelligenta väglednings- och bedömningssystem. En artikel i Artificial Intelligence Review beskriver att dagens utbildningssektor vid universitet kännetecknas alltmer av AI som används av både lärare och studenter, där system bestående av intelligenta handledningssystem, undervisningsrobotar och adaptiva lärsystem används. För dessa anses förtroende vara hörnstenen i människans relation till AI - som är avgörande för att denna transformation av utbildningen ska fungera. Det finns en avsevärd kunskapslucka kring det förtroende lärare inom högre utbildning har för AI-baserad utbildningsteknik. Därför syftar denna explorativa fallstudie till att undersöka lärares förtroende för AI, och mer specifikt inom ramen för högre utbildning i Singapore. Denna studie är bygger på en webbenkät där åtta lärare deltog. Även om det är ett lågt antal deltagare, utforskar studien det upplevda förtroendet för AI, samt fördelarna med att använda det i en akademisk miljö. Vidare, där det saknas förtroende för AI-diagnostik, beror det på att dagens AI-teknik ofta består av black-box-modeller som saknar transparens i systemets interna funktioners arbete. Slutligen, när det gäller hur lärare arbetar tillsammans med AI för att förbättra pedagogiken, drar studien slutsatsen att implementering av AI-baserad teknik i högre utbildning aldrig kommer att ersätta det traditionella utbildningssystemet när det gäller social interaktion