How attitudes towards AI recommendations are affected by comparison with human characteristics : An empirical study of Word-of-Machine effect in relation to distinction bias

Dagens samhälle står för närvarande inför en ökning av AI-baserad assistans. Med grund i detta har det blivit centralt att ta reda på hur människan ställer sig till användningen av dessa system. Forskning kring detta, mer specifikt kring AI-baserade rekommendationer, har visat att människor tenderar att acceptera dessa mer när kriterierna består av funktionella och icke-sensoriska värden, medan denna typ av rekommendation accepteras mindre när kriterierna är affektionsdrivna. En teori som skapats ur sådan forskning är bland annat word-of-machine effect, som beskriver just detta fenomen. En gemensam faktor för forskning som undersökt detta fenomen är metodiken där AI ställts i jämförelse med människan. Den här studien har därför valt att undersöka om det är distinktionsbias, med grund i word-of-machine effect, som påverkar människan till en negativare syn gentemot AI. Distinktionsbias beskriver hur människan utvärderar alternativ olika om de står separat kontra i jämförelse med andra alternativ. Ett experiment med en 2x2 mixad design genomfördes med 125 deltagare. Med fyra hypoteser som underlag visade analysen på word-of-machine effect som en robust teori samt att jämförelser av mänskliga egenskaper inte påverkar människor till en negativare attityd gentemot AI. Slutsatsen som dragits innebär därmed att kriterierna kring den rekommenderade produkten är viktiga för människans syn på AI och är därmed även av praktisk betydelse för företag. Avslutningsvis fanns det alltjämt en skillnad i hur deltagarna evaluerade AI separat samt jämfört med människan, där AI blev mer accepterat i det senare vilket är intressant för vidare forskning.Today's society is currently facing an increase in AI-based assistance. Based on this, it has become central to find out how humans respond to these systems. Research on this, more specifically on AI-based recommendations, has shown that people tend to accept these more when the criteria consist of functional and non-sensory values, on the contrary, this type of recommendation is accepted less when the criteria are affection driven. One theory created from such research is the word-of-machine effect, which describes this particular phenomenon. Furthermore, a common factor for the research that has examined this is the methodology in which AI is compared with humans. This study has therefore chosen to investigate whether it is distinction bias, based on word-of-machine effect, that influences humans to a more negative view of AI. Distinction bias describes how humans evaluate alternatives differently if they are separately opposed in comparison with other alternatives. An experiment with a 2x2 mixed design was performed with 125 participants. With four hypotheses as a basis, the analysis showed the word-of-machine effect as a robust theory and that comparisons of human characteristics do not influence people to a more negative attitude towards AI. The conclusion drawn thus means that the criteria around the recommended product are important for the human view of AI and are thus also of practical importance for companies. Finally, there still was a difference in how the participants evaluated AI separately and compared with humans, where AI became more accepted in the latter, which is interesting for further research