bild
Skolan för
datavetenskap
och kommunikation
KTH / CSC / Kurser / DH2408 / utvard10 / Kursanalys

Kursanalys för DH2408, Utvärderingsmetoder inom MDI, våren 2010

Kursdata

Tid: period 3 läsåret 2009/2010 dvs januari-mars 2010.
Poängantal: 6 högskolepoäng

Föreläsningar: 16 timmar.

Övningar: 6 timmar

Inga labbar
Kursledare: Ola Knutsson
Huvudföreläsare: Eva-Lotta Sallnäs och Ola Knutsson.

Gästföreläsare: Sofie Kaiser (Usability Partners), Olle Bälter (KTH), Alex Olwal (KTH), Tommy Strandvall (Tobii) och Henrik Lindström (Kungliga Biblioteket). Antal studenter: 24 som har redovisat åtminstone ett helt moment (24 totalt i res).

Kurslitteratur:

Handbook of usability testing: How to plan, design, and conduct effective tests av Jeffrey Rubin och Dana Chisnell (2008), 2. ed. Indianapolis, IN: Wiley Pub., cop. 2008. Engelska, 348 s.

Avklarade moment en dryg månad efter kursens slut:

Prestationsgrad: 100 % (144/144 poäng, förra året 100 %) antal presterade poäng av antalet möjliga poäng för de registrerade studenterna.
Examinationsgrad: 100 % (24/24 helt klara studenter, förra året 100 %) antal studenter som klarat alla kurskrav av alla registrerade studenter.
Betygsfördelning: 6 x A, 8 x B, 4 x C, 4 x D, 2 x Fx. Komplettering: 2 x E.

Mål

Kursens mål är att studenterna efter genomförd kurs ska kunna:
  • diskutera den teoretiska bakgrunden till utvärdering av användbarhet inom människa-datorinteraktion.
  • veta hur användbarhet praktiseras i industrin i olika stadier i en produktutvecklingsprocess samt hur produkter utvärderas i användbarhetslaboratorier.
  • planera och genomföra olika typer av användbarhetsutvärderingar.
  • ha förmåga att välja utvärderingsmetod baserat på det problem och sammanhang studenten ställs inför.
  • bedöma de olika metodernas möjligheter och begränsningar.
  • kommunicera resultat från utvärderingar på ett sätt som är användbart för en produktutvecklingsgrupp.

för att studenterna ska:
  • ha förmågan att resonera om användbarhet och kunna förstå vilket syfte en användbarhetsutvärdering kan fylla i olika delar av en produktutvecklingsprocess.
  • självständigt kunna genomföra utvärderingar inom människa-datorinteraktionsområdet.
  • vara kapabel att kritiskt granska en användbarhetsutvärdering som någon annan gjort.

Förändringar inför denna kursomgång

Inga förändringar inför denna kursomgång.

Nya betygsättningen

Nu var det tredje året som A-F-skalan användes, och den fungerar bra, men det kan bli bättre. Studenterna betygssätts också i grupper om två, och frågan är om det inte måste in ett ökat krav på individen. Å andra sidan kanske det tyckas ganska överflödigt att två personer skriver varsin version av rapporten. Det kommer sannolikt att resultera i att den person med bäst skrivförmåga får högre betyg, snarare än den person som på ett mer lämpligt sätt driver och genomför en användbarhetsutvärdering. Den muntliga presentationen skulle också kunna betygssättas i flera steg (dock ej A-F), men för att skapa ett viktat betyg.

Sammanfattning

Kursen gick mycket bra enligt min egen åsikt, och efter kompletteringar kunde alla studenter komma ända in i mål. Slutrapporten påminner om ett mini-exjobb så denna kurs är en utmärkt övning inför exjobbet. Studenten tvingas ta ställning till hur en studie skall designas, genomföras och rapporteras. Det som verkar enkelt när man hör föreläsningar, och läser MDI-böcker är i själva verket komplicerat, och kräver mycket av den som skall genomföra utvärderingen. I år godkände jag samtliga förslag från studenterna efter vissa korrigeringar. Det visar sig dock att vissa artefakter/gränssnitt är svårare att utvärdera eftersom det i många fall handlar om användarupplevelser som är svåra att mäta, jämföra och värdera. Det som dock misslyckades var den samövning med Programssystemkonstruktion med .NET Framework (DD2388) som nu körts under två år med majoritetens ögon lyckat resultat. Den kursen hade för många tekniska problem med den tekniska plattformen som de behöver använda. Därför blev ett samarbete inte möjligt. En del studenter blev besvikna men jag tycker att det blev bättre fokus på projektet när det inte fanns något som störde.

Faktiskt innehåll på kursen

Kursen följde det ursprungliga upplägget enligt kursplanschemat, vad det gäller innehåll. En del föreläsningar fick flyttas om p.g.a. sjukdom. Samarbetet med DD2388 utgick.

kursens hemsida finns mer information om kursen.

Elevernas synpunkter och kursledarens kommentarer

En enkät genomfördes genom ACE:s system för webbenkäter. 15 studenter besvarade enkäten. Enkäten innehöll en blandning av öppna frågor och frågor som besvarades med hjälp av en sjugradig skala. Här följer ett utdrag av enkätsvaren. Alla frågor och svar är inte med. Men ingen gallring med avseende på positiv resp. negativa kritik har gjorts. Jag tar med maximalt 8 citat på varje fråga.
Studenternas kommentarer är kursiverade.



  • Upplever du att kursen var lätt eller svår att klara av?

    1. 7% (1 st) Mycket lätt
    2. 27% (4 st) Lätt
    3. 67% (10 st) Medel
    4. 0% (0 st) Svår
    5. 0% (0 st) Mycket svår


  • Tycker du att innehållet känns meningsfullt för dig?

    1. 13% (2 st) Nej, inte alls
    2. 0% (0 st) Lite
    3. 7% (1 st) Ganska
    4. 47% (7 st) Ja
    5. 33% (5 st) Ja, mycket meningsfullt


    F: Vad tycker du om innehållet i föreläsningarna?

    Informativt innehåll.
    ---
    Helt okej, vart ganska mycket samma som MDI grundkurs ibland dock.
    ---
    De flesta föreläsningar kändes givande och relevanta.
    ---
    inte helt relevant alla gånger
    ---
    Mycket bra! Speciellt roligt att höra personer från branschen prata om hur de jobbar.
    ---
    Inte väldigt givande. Det hade behövts en mer tydlig struktur, mer uppgifter till studenterna som leder till seminariediskussion.
    ---
    Intressant och givande
    ---
    Relevanta, vissa riktigt bra!
    ---
    F: Vad tycker du om innehållet i gästföreläsningarna?

    Bra.
    ---
    Mycket bra!
    ---
    Alla var intressanta men absolut bäst var Sofie från Usability Partners. Det var verkligen spännande att få höra vad hon hade gjort och få en bild av hur det kan se ut i arbetslivet.
    ---
    Bra
    ---
    Även det var intressant och givande
    ---
    Bra
    ---
    Intressanta
    ---
    Även här bra och intressant.
    ---
    De flesta riktigt bra.


    F: Hur tycker du att utvärderingsuppgiften i kursen har fungerat?

    Det var lite stressigt med tiden. Man får verkligen hoppas på att man hittar användare till utvärderingen, annars känns det som att man misslyckas.
    ---
    Det fungerade bra! En stor del i detta var alla inlämningsuppgifter som skulle lämnas in. Man blev verkligen "pushad" att komma igång direkt vid kursstart.
    ---
    bra å fint. Det var verkligen viktigt att sätta igång tidigt, bra råd.
    ---
    Sådär. Jag hade hoppas på lite mer handfasta råd och intressanta utvärderingsmetoder. Hälften gjorde "think aloud" motsv. dvs. metoder som gicks igenom i grundkursen
    ---
    Rolig, gick bra
    ---
    Konstig
    ---
    Väldigt bra, kul med de få kurser som känns verklighetsinriktade
    ---
    Ganska bra. Fick lite krångel och tight om tid för själva testerna.
    ---
    Det egna projektet fungerade bra, även om lite fler kursstyrda deadlines, mot slutet av projektet kunde ha varit bra.

    Den "andra" utvärderingsuppgiften hade jag sett fram emot. Tråkigt att den inte blev av =/



    F: Vad tycker du att du har lärt dig på kursen?

    Jag har lärt mig om processen som man tillämpar för att göra en utvärdering. Allt från rekrytering till dokumentering av data, analys och presentation av resultat.
    ---
    Hur man verkligen går tillväga vid ett riktigt test. Alla olika delar som måste göras. Att det är viktigt att planera alla delar i tid. Viktigt att göra en tidplan även om man kanske inte följer den helt och hållet.
    ---
    Hur en utvärdering kan gå till och vad man ska tänka på, även om jag är långt ifrån fullärd. Jag har helt enkelt fått en bra överblick och nu gäller det bara att fortsätta träna!
    ---
    Att arbeta metodiskt med utvärdering. Mindre än jag anade är möjligt att lämna åt slumpen. Allt måste planeras.
    ---
    Som sagt, inte så många nya infallsviklar.
    ---
    Handskas med försökspersoner, mer avancerade MDI-begrepp, djupare förståelse för utvärderingsmetoder
    ---
    Fått en bra insikt i hur utvärderingar kan genomföras. Jag känner mig även säkrare i att hitta information om utvärderingsmetoder inför framtiden.
    ---
    F: Ytterligare kommentarer om kursen:
    ---
    Stort tack för en rolig kurs! Detta var en av de mest givande och lärorika kurserna hittills. Det var skönt att för en gångs skull slippa sitta med näsan i kursboken hela tiden och att få vara lite praktisk istället.
    ---

    Kursledarens kommentarer om studenternas svar i enkäten samt egna tankar om kursen

    Om man räknar antalet positiva kommentarer så är dessa i klar majoritet. Det är givetvis mycket bra. Dock är det viktigt att vi tar till oss kritiken och de förslag som kommer från studenterna. MDI-inledande kurs hade detta år fått ett annat innehåll och dragit sig mer mot användbarhet än som tidigare mot interaktionsdesign. Detta påverkade studenternas förkunskapskrav som ju är viktiga att knyta an till. Jag ser det som positivt att studenterna vet mer om användbarhet, men en del studenter upplever inte kunskapsprogressionen som jag är övertygad finns där om studenten själva engagerar sig vilket borde vara ett kurskrav! En del efterlyser fler avancerade metoder, och klagar på att ganska många projekt använder "tänka-högt"-metodiken. Om man läser teorin bakom metoden, och verkligen gör som kognitiva psykologer skriver att man skall göra så är det en mycket avancerad och krävande metod. Läser man dessutom kritiken av metoden blir det ännu mer komplicerat. Det är den typen av kunskapsprogression som jag som lärare önskar, och min tolkning av studenternas kommentarer är att de flesta trots allt inser detta. Man måste träna på metoder och praktiserandet av dem för att kunna arbeta som användbarhetsexpert i arbetslivet. Det vi kan ta till oss av detta som lärare är att artikulera behovet av kunskapsprogression när vi ytterligaren en gång beskriver intervjuteknik eller genomförande av tänka-högt.

    Momentet Kritik av programdesign måste vi fundera mer över. Skall man ha med det i framtiden? Flera studenter efterfrågar det, och tycktes sakna det nu när det uteblev. Ett alternativ är att studenterna inom kursen granskar varandras projekt, se mer nedan.

    Det är lite skrämmande att en del studenter hävdar att de inte lärt sig något nytt.Det är kanske nackdelen med kurser i projektform där en stor del av lärande bygger på studentens egen drivkraft. Om man då som student tycker att all kunskap skall komma från läraren så blir kanske känslan att man inte lärt sig något. Men kursen är modern och bygger på att studenten själv konstruerar sin kunskap med stöd från lärare och kurskamrater.Tanken med att plocka in användbarhetsexperter från arbetslivet är också att motivera studenterna till att verkligen lära sig hantverket som finns kring en användbarhetsutvärdering.Majoriteten av studenterna verkar också ha tagit till sig detta budskap, vilket kan illusteras av detta citat från en student: "Jag har helt enkelt fått en bra överblick och nu gäller det bara att fortsätta träna".

    Planerade förändringar

    Kursen fungerar väl, och jag ser ingen anledning att ändra för mycket i något som jag själv tycker är bra, samt som studenterna verkligen uppskattar. Det man kan överväga är att dela in kursen i två moment för Ladok-rapportering. Ett av dessa skulle då vara individuella.Jag har utvecklat uppgiftsbeskrivningar inklusive A-F-betygsatt individuella uppgift, lärandemål och betygskriterier och skickat detta dokument till nästa kursledare och studierektor. Jag föreslår också att projekten tittar mer på varandra genom att granska varandras uppgifter kontinuerligt under kursens gång. Hur kursen hänger ihop med MDI-inledande bör också beaktas till nästa kursomgång. Kanske kan nästa års föreläsningar förutsätta större kunskaper om användbarhet än vad som varit fallet under de tre år som jag varit engagerad i kursen?



  • Copyright © Sidansvarig: Ola Knutsson <knutsson@csc.kth.se>
    Uppdaterad 2010-05-27