Mobiilisovellusten suunnitteluratkaisujen vahvistaminen datankeruulla ja metriikoilla

This thesis discusses how software developers can measure the use of a mobile application and validate whether or not their design decisions added value to the software. Our subject is a comic reading application Comicked, currently available for the iPad and developed by a start-up called Witchcraft Labs. The company aims to create a new way of reading and publishing comics on tablets. In this thesis, we present an empirical approach for validating design decisions by monitoring metrics, suitable for the start-up with scarce resources. Application usage is measured from the actual end-users from the real environment. This kind of evaluation is done remotely, and therefore we need to instrument the application in a way that data can be collected on the client-side and then sent over the Internet to evaluators for analysis. By analysing remotely collected user events, we can estimate values for different kinds of metrics that describe the quality of the application. In case of Comicked, we found that the most interesting metrics describe user adoption, user loyalty, and usage rates of application features. However, we also need methods that allow us to compare the metrics trustworthy. In this thesis, we discuss A/B testing and statistical analysis, which evaluators can use to gain confidence in their measurements. We found that the developers can reliably validate their design decisions by using a combination of the metrics, remote instrumentation, A/B testing, statistical analysis and proper monitoring tools. However, they must understand the limits of these methods and not use them as the only methods of collecting information about their customers. The approach is meant for validating design decisions and not for discovering them.Tässä työssä tutkitaan, kuinka ohjelmistokehittäjät voivat mitata mobiilisovelluksen käyttöä ja todeta mittausten avulla, ovatko heidän suunnitteluratkaisunsa onnistuneet parantamaan tuotteen arvoa. Työssä keskitytään iPadille julkaistuun sarjakuvanlukusovellukseen nimeltä Comicked, jonka on kehittänyt startup-yritys Witchcraft Labs. Yritys pyrkii kehittämään uudenlaisen sarjakuvien lukuja julkaisualustan tablet-laitteille. Tässä työssä esitellään empiirinen lähestymistapa, joka sopii niukkavaraiselle startup-yritykselle, ja jonka keskeisessä osassa ovat sovelluksen laatua kuvaavat metriikat. Sovelluksen käyttöä mitataan oikeassa tuotantoympäristössä oikeilta loppukäyttäjiltä. Tämä edellyttää, että sovellus kykenee keräämään käyttödataa ja lähettämään sitä verkon yli analysoitavaksi. Jotta mittaustuloksista voidaan tehdä johtopäätöksiä, kehittäjien tulee suorittaa A/B-testausta ja varmistaa tulosten pätevyys tilastollisella analyysilla. Työssä todettiin, että yritys kykenee luotettavasti vahvistamaan suunnitteluratkaisujaan hyödyntämällä asianmukaisia metriikkoja, etämittausta, A/B-testausta, tilastollista analyysia sekä sopivia työkaluja tilastojen seuraamiseen. Tämä edellyttää kuitenkin, että ohjelmistokehittäjät ymmärtävät näiden menetelmien rajoitukset eivätkä käytä sitä ainoana tapana kerätä tietoa asiakkaistaan. Työssä esitellyt menetelmät soveltuvat päätösten vahvistamiseen, mutta ei niiden keksimiseen