What you'll need
- Et utkast til vurdering satt sammen i byggeren (deler, sider, blokker)
- Vurderingsmatriser eller fasiter knyttet til hver poengsatte oppgave
- En mobil eller et smalt nettleservindu til mobilgjennomgangen
- 1–2 kolleger tilgjengelig for et kort pilotløp
Step 1: Åpne kandidatforhåndsvisningen fra topplinjen i byggeren
Start hver kvalitetssikringsrunde fra «Preview as candidate» i topplinjen i byggeren. Forhåndsvisningen gjengir vurderingen nøyaktig slik en kandidat vil se den — de samme sidene, blokkene, instruksjonene og tidtakerne — slik at alt du fanger opp her, er et reelt problem som blir rettet før det koster deg et svar.
Motstå fristelsen til å skumlese ditt eget innhold. Du har skrevet disse oppgavene, så hjernen din fyller ut hull en kandidat ikke kan fylle. Les hver instruksjon som om du aldri har sett rollen, og svar ærlig på hvert spørsmål i stedet for å klikke deg gjennom. Poenget er å oppleve vurderingen, ikke å ta en omvisning i den.
Step 2: Gå gjennom hver side på datamaskin, og svar på ordentlig
Gå side for side og fullfør faktisk hver oppgave: skriv tekstsvarene, fyll ut tabellfeltene, last opp en fil, ta opp lyd eller video hvis vurderingen ber om det. Interaktive oppgavetyper svikter på måter en visuell skumlesing aldri avdekker — en opplasting som avviser det åpenbare filformatet, en kodeoppgave med en forvirrende starttilstand, en opptaksblokk en kandidat kan komme til å overse.
Vær særlig oppmerksom på oppsett der stimulusmateriale og spørsmål står side om side. Bekreft at stimulusmaterialet og spørsmålet er synlige samtidig, at lange dokumenter kan rulles uavhengig, og at ingenting tvinger kandidaten til å pugge stimulusmaterialet før hun svarer. Et oppsettsproblem her endrer stille hva oppgaven måler — fra ferdigheten du designet for, til arbeidsminne og tålmodighet.
- Hver instruksjon er entydig for noen utenfor teamet ditt
- Opplastinger, opptak og kodeblokker godtar et realistisk svar
- Stimulusmateriale og spørsmål kan leses sammen på én skjerm
- Obligatoriske felt og navigasjon oppfører seg som forventet på hver side
Step 3: Gjenta gjennomgangen på en mobil
Kjør den samme forhåndsvisningen på en mobil eller i et smalt nettleservindu. Kandidater sitter ikke alltid ved et skrivebord, og oppsett som ser fine ut på en bred skjerm, kan begrave et stimulusmateriale, kutte av en tabell eller skyve innsendingsknappen ned under en endeløs rulling på en liten skjerm.
Hvis en oppgave virkelig krever datamaskin — et kodemiljø, en lang dokumentgjennomgang side om side — sier du det uttrykkelig i instruksjonene til vurderingen i stedet for å la kandidatene oppdage det midt i forsøket. En setning som setter forventningen på forhånd, er langt billigere enn et frustrert, halvferdig svar.
Step 4: Ta tiden på en realistisk gjennomkjøring mot grensene dine
Fullfør vurderingen i et realistisk arbeidstempo, og sammenlign tiden du brukte, med totalgrensen og grensene per side som du satte i byggeren. Legg så til margin: du kan allerede stoffet, og en kandidat som leser alt for første gang, vil være merkbart tregere enn du var.
Kontroller grensene per side hver for seg, ikke bare totalen. Én underestimert side — vanligvis den med den rikeste arbeidsprøven — kan ødelegge en ellers godt tidsatt vurdering, fordi tidspress på én enkelt oppgave straffer de grundige kandidatene hardest. Hvis en side føltes stresset selv for deg, utvider du den før noen andre ser den.
Step 5: Kontroller hver vurderingsmatrise og fasit mot oppgaven sin
Åpne hver poengsatte oppgave og bekreft at poengoppsettet stemmer med oppgaven slik den faktisk er skrevet — ikke slik du skisserte den for tre redigeringer siden. For automatisk poengsatte oppgaver kontrollerer du at fasiten markerer de riktige alternativene, og at poengverdiene er slik du mener de skal være. Husk at en oppgave uten fasit får automatisk poengsum null som verdi og venter på manuell gjennomgang; den blir ikke stille poengsatt til null, men den blir liggende upoengsatt til noen tar tak i den.
For oppgaver som poengsettes med vurderingsmatrise leser du hvert kriterium på nytt mot oppgaveteksten og bekrefter at et sterkt svar på nettopp denne teksten faktisk kan vise hvert kriterium. Merk at vurderingsmatriser fryses til et øyeblikksbilde når de knyttes til, så dette er øyeblikket for å rette formuleringer — senere redigeringer i biblioteket ditt når ikke fram til den publiserte vurderingen.
Step 6: Gjør ferdig publiseringssjekklisten
Publiseringssjekklisten er plattformens siste port: den blokkerer «Publish» til nødvendig oppsett er på plass, og flagger ting som manglende poengoppsett eller ufullstendig deloppsett. Arbeid deg gjennom hvert punkt den reiser, i stedet for å lete etter den raskeste veien til en grønn knapp.
Behandle sjekklisten som et gulv, ikke et tak. Den kontrollerer at strukturen er komplett; den kan ikke bedømme om instruksjonene dine er klare, eller om tidsbruken er human. Det var det de foregående trinnene var til for. Når sjekklisten er klar og de manuelle gjennomgangene dine er gjort, er du klar til å pilotere.
Step 7: Kjør en pilot med én eller to personer internt
Før noen kandidat ser vurderingen, lar du én eller to kolleger ta den fra ende til ende under reelle forhold — den faktiske leveringslenken, de faktiske tidsgrensene og sikkerhetsinnstillingene du planlegger å bruke, slik at samtykke- og preflight-opplevelsen også blir testet. Velg folk som ikke var med på å bygge den; nye øyne finner det dine ikke kan.
Ha en oppsummering med en gang, mens opplevelsen er fersk. Poengsett så svarene deres mot vurderingsmatrisene dine som en siste kontroll av at språket i matrisen fungerer på ekte besvarelser, ikke bare i teorien. Rett det piloten avdekker, kjør forhåndsvisningen på nytt på alt du endret, og send først da ut invitasjoner.
- Hvor føltes instruksjonene tvetydige eller overraskende?
- Hvilken side føltes mest tidspresset?
- Føltes preflight og sikkerhetsmeldingene forholdsmessige sett mot hva som står på spill?
- Kunne pilotenes svar poengsettes rent mot vurderingsmatrisen?
Pro tips
- Kvalitetssikre etter hver endring som betyr noe, ikke bare én gang — en endring på én linje i en oppgave kan gjøre fasiten ugyldig.
- Hold en felles sjekkliste for kvalitetssikring per vurdering, slik at en annen person kan etterprøve gjennomgangen i stedet for å stole på at den ble gjort.
- Forhåndsvis med de samme sikkerhetsinnstillingene som du skal levere med, slik at du selv opplever samtykke- og preflight-porten.
- Beregn tiden for en som leser dette for første gang, ikke for forfatteren — du vil alltid være den raskeste personen som noen gang tar denne vurderingen.
- Hvis piloten avdekker en formuleringssvakhet i vurderingsmatrisen, retter du den før publisering; tilknyttede vurderingsmatriser er frosne øyeblikksbilder.