Is traditional usability testing dead?
Skrevet af Thore | User Experience | 4 kommentarer
27. september 2008 |Alle taler om multivariable tests, og de kæmpe stigninger i konverteringer sådanne testværktøjer kan medføre. Men hvad betyder disse nye real time multivariable testværktøjer for traditionelle usability tests?
Forleden var jeg til formiddagsseminaret “How to convert Browsers to Buyers” arrangeret af blandt andre Interwoven, Webtrends og IIH. Et fantastisk godt arrangement, der satte fokus på netop multivariable tests.
Særligt en af de indbudte talere, produktchef Craig Sullivan fra lovefilm.com, var inspirerende og delte indlevende ud af sine erfaringer med Multivarable testværktøjet – Interwoven Optimost. Ifølge Craig, så opnåede lovefilm.com at øge antallet af kundetilmeldinger med hele 10% i løbet at blot fire ugers pilottest. Bestemt ikke uinteressant.
Efter kurset kom jeg til at tænke på hvad sådann multivarable testværktøjer mon vil komme til at betyde for traditionelle usability tests, hvorfor jeg kontaktede Craig og stillede ham dette spørgsmål: “To what extend does multi variable testing mean the death of traditional usability testing“
I det nedenstående følger Craig’s svar:
Lets consider a simple situation:
When you are running a usability test, you are only considering one variation. You are observing what happens with that test.
A customer visits a web page and finds it difficult to search or navigate. They also have problems signing up for the service when they use the forms on the website.
Most of the customers experience the same problems. All of them experience problems using the forms process on the site.
In this case, a usability test would identify all these issues.
An MVT test would simply optimise what is best given *what is already there*.
The usability test gives you a psychological insight into the interaction with the current page on your site – the MVT test gives you the option to improve this; However, if you have a piece of dogshit, it will only ever be an optimised piece of dogshit using MVT.
If your site, process, form or page-flow has a problem, MVT will not identify the ‘reason’ or help you find the solution. If you want to optimise, you need to understand both.
MVT is not the ‘death’ of usability but a new beginning – the ability to make usability changes but see the measured differences.
Altså ikke døden for usability, men derimod en ny begyndelse, hvor vi som online specialister konkret kan teste og måle effekten af vores ændringer og igennem brugerindragelse vælge den bedste løsning.
The HiPPO is dead – long live MVT!
Thank you Craig!





4 kommentarer
28. september, 2008
Klokken 10:33
Søren SprogøHeh, jeg elsker HIPPO begrebet :-)
Multivariant tests er i teorien geniale. Men i praksis her i lille Danmark er jeg gang på gang løbet ind i det samme problem: Det er simpelthen umuligt at skaffe trafik nok til at skaffe stort nok statistisk grundlag for samtlige varianter!
Derfor ender jeg som oftest med at begrænse en test til en serie af A/B-tests. Som Craig siger, så tager det jo ikke højde for HELE brugerens process. Men i mange tilfælde er det det eneste der er praksis muligt, når ens potentielle brugerskare er stærkt begrænset.
28. september, 2008
Klokken 11:07
ThoreAbsolut valid pointe Søren. Jeg har ikke selv endnu udført MVT, men det er korrekt, at når de store drenge fortælle om disse, så er det ofte tests med adskillige tusinde variabler, der testes på større mængder trafik. Trafikmængder som de fleste websites herhjemme slet ikke kan trække. MEn så må man vel blot skalere lidt ned som du selv har gjort.
Hvor store variationer i konvertering har du oplevet i din tests?
28. september, 2008
Klokken 22:39
Søren SprogøDet er yderst sjældent at jeg har fokuseret på conversion rate, når jeg har udført A/B-tests.
Årsagen er, at jeg som regel har udført tests på landing pages, hvor bounce rate er den vigtigste parameter. Jo længere man kigger ned i “tragten” ud fra det punkt man tester, desto flere andre faktorer kan spille ind.
Skulle jeg lave en test et stykke nede i conversion funnellen, f.eks. i checkout processen, vil jeg selvfølgelig tage conversion rate med som en af de vigtigste parametre. Det er bare ikke lige noget jeg har haft chancen for at gøre endnu.
10. oktober, 2008
Klokken 15:00
Jacob KildebogaardNu er vi så heldige at vi personligt kan få lov at anbefale et valg ud fra mere end ét tal. Jeg mener at tre resultater skal bruges for at finde “vinderen” ved MVT på landingpage:
- Bouncerate
- Klikrate på det konkrete element
- Conversion rate
Selvfølgelig hjælper det at holde brugerne på siden længere end den ene side, men hvis de ikke køber er det jo den forkerte målgruppe der bliver. Conversion rate SKAL derfor indover. Klikrate er relevant for at se om billedet fx appelerer til at trykke på. Det behøver ikke være positivt med mange tryk, hvis nu det leder hen til noget andet end brugeren forventede og de derfor forlader sitet (en nøgen dame på forsiden som linker til biblen vil nok falde i dårlig jord).
Jeg kan anbefale at i kigger nærmere på Prusak.com hvis i vil have tricks til at have mere bestemmelse ved MVT. Han omtaler forskellige måder at justere koden på så det ikke er x*y*z muligheder der testes.