Siirry sisältöön
SkillCort

9 min · 8 stepsToteutuksen opastus

Näin luot sertifiointikokeen

Sertifiointikokeella on todellisia seurauksia hakijalle ja todellista vastuuta myöntäjälle, joten kaiken siinä — tehtävien turvallisuuden, ajoituksen, valvonnan, pisteytyksen — täytyy olla johdonmukaista ja puolustettavaa. Tämä opastus käy läpi korkean panoksen sertifiointikokeen rakentamisen SkillCortissa pankitetusta tehtävävarannosta rinnakkaisine koesarjoineen auditointipakettiin, jonka voit ojentaa kenelle tahansa joka kyseenalaistaa tuloksen.

What you'll need

  • Dokumentoitu sertifiointistandardi: mitä kompetensseja se todistaa ja millä tasolla
  • Läpäisykriteeri, josta on sovittu ennen kuin yksikään hakija istuu kokeeseen
  • Riittävän suuri tehtävävaranto tukemaan vaihtelua suorituskertojen välillä
  • Ohjelman omistajan hyväksyntä siitä mitä valvontakeinoja panokset oikeuttavat

Step 1: Määritä ensin standardi ja läpäisykriteerit

Kirjoita ylös mitä sertifikaatti todistaa ennen kuin rakennat mitään: katetut kompetenssit, vaadittu suoritustaso ja läpäisykriteeri. Päätä nyt, tarkoittaako läpäisy kokonaiskynnystä, vähimmäistasoa jokaisessa osiossa vai molempia. Tulosten näkemisen jälkeen vedetty läpäisyraja on puolustuskelvoton; etukäteen dokumentoitu on standardi.

Kartoita kukin kompetenssi osioksi nimenomaisine pisteytyspainoineen. Painot virtaavat lopulliseen pistemäärään, joten ne ovat osa itse standardia — sertifikaatti, jossa „turvallisuusmenettelyt” kantaa 10 % pistemäärästä, todistaa eri asian kuin sellainen jossa se kantaa 40 %. Kirjaa perustelu painojen rinnalle.

Step 2: Rakenna pankitettu tehtävävaranto pankkiin

Luo sertifioinnille oma kansio kansiokohtaisine tageineen kompetenssia ja vaikeustasoa kohti. Kirjoita tehtävät manuaalisesti kaikkeen vivahteikkaaseen, pikaliitä jo olemassa olevat monivalintakysymykset, ja käytä tekoälytuotantoa — opetussuunnitelmasi tai kurssimateriaalisi ladattuna pohjustusaineistoksi — luonnostelemaan leveyttä, jopa 100 tehtävää ajoa kohti.

Kohtele tekoälyn tuottamia tehtäviä luonnoksina, ei valmiina kysymyksinä. Tarkasta jokainen täsmällisyyden, yhden puolustettavan oikean vastauksen ja standardiin kohdistumisen osalta ennen kuin se pääsee varantoon. Sertifioinnissa huono tehtävä ei ole pelkkää kohinaa — se on tulos, josta joku voi oikeutetusti valittaa.

Step 3: Kokoa koe siemennetyllä sekoituksella rinnakkaisiksi koesarjoiksi

Jäsennä koe osioiksi, sivuiksi ja lohkoiksi jotka vastaavat kompetenssikarttaasi, tuoden varannon tehtävät sisään valitsinikkunasta kansio-, tag- ja tyyppisuodattimilla. Ota sitten sekoitus käyttöön osio-, sivu- ja lohkotasolla sikäli kuin suunnittelusi sallii — kukin suorituskerta saa oman siemennetyn järjestyksensä, joten kaksi hakijaa ei istu identtistä sarjaa.

Näin saat rinnakkaiset koesarjat ylläpitämättä erillisiä koeasiakirjoja: sisältö ja vaikeus pysyvät vakioina, järjestys vaihtelee suorituskerroittain, ja siemen tekee kunkin hakijan kokemuksesta sisäisesti johdonmukaisen. Hakijoiden välillä välitetyt vastausavaimet menettävät suurimman osan arvostaan kun sijainti ei enää tunnista kysymystä.

Step 4: Aseta tiukat, kerrotut aikarajat

Aseta kokonaisaikaraja ajastetuista pilottiajoista johdettuna, ei arvailemalla — käytä „Esikatsele hakijana” -toimintoa ajastaaksesi täyden suorituskerran itse ja lisää mitattu pelivara. Sertifioinnissa rajan täytyy olla identtinen jokaiselle kohortin hakijalle; vertailukelpoisuus on osa sitä mikä tekee tuloksesta merkityksellisen.

Lisää sivukohtaiset aikarajat sinne missä myöhempi materiaali voisi paljastaa aiempia vastauksia tai missä ajastettu suoriutuminen on osa standardia. Muista mekaniikka: kun sivun aika umpeutuu, hakija siirretään eteenpäin ja sivu lukittuu. Ilmaise kokonaisraja, sivukohtaiset rajat ja lukkiutumiskäyttäytyminen nimenomaisesti hakijan ohjeissa.

Step 5: Määritä valvonta oikeasuhtaiseksi panoksiin

Kiristä toteutusasetuksissa turvallisuutta vastaamaan sitä mitä sertifikaatti on arvoinen. Aidossa pätevyystodistuksessa se tarkoittaa tyypillisesti koko näytön lockdownia rikkomusrajoineen, kopioinnin ja liittämisen estoa, lisänäytön tunnistusta — joka estää aloituksen jos ylimääräinen näyttö havaitaan ja merkitsee kesken kokeen tulevat yhteydet — verkkokameran tallennusta, näytön tallennusta ja henkilöllisyyden tarkistusta. Safe Exam Browser on käytettävissä siellä missä hallitset koneita.

Määritä lockdownin rikkomusrajat harkitusti: enimmäisrikkomukset, sallitut sekunnit poistumaa kohti ja kokonaissekunnit koko näytön tilan ulkopuolella. Katon ylittäminen pakkopalauttaa suorituskerran auditointitapahtuman kanssa — se on määritetty raja josta hakijalle kerrottiin, ei tuomio. Ihminen tarkastaa silti suorituskerran ja sen näytön ennen kuin tuloksesta tehdään mitään päätöstä.

  • Koko näytön lockdown nimenomaisine rikkomuskattoineen (lukumäärä, sekunnit poistumaa kohti, kokonaissekunnit)
  • Kopioinnin ja liittämisen esto sekä lisänäytön tunnistus
  • Verkkokameran ja näytön tallennus tarkastusta varten, ei automaattista arviointia varten
  • Henkilöllisyyden tarkistus sitomaan suorituskerta henkilöön
  • Safe Exam Browser täysin hallittuihin ympäristöihin

Step 6: Ole läpinäkyvä suostumusportilla

Jokainen hakija kulkee suostumus- ja esitarkistusportin läpi ennen aloittamista, ja se kertoo täsmälleen mitä seurataan: tallenteet, lockdown-säännöt, rikkomusrajat ja henkilöllisyyden todentaminen. Älä pehmennä tai hautaa tätä. Hakijat jotka tuntevat säännöt voivat antaa suostumuksensa merkityksellisesti, valmistella ympäristönsä kunnolla eivätkä voi myöhemmin väittää että heitä seurattiin salassa.

Esitarkistus suojaa myös datasi laatua — kameran, mikrofonin ja näytön tarkistukset tapahtuvat ennen kuin kello käynnistyy, joten tekniset ongelmat nousevat esiin korjattavina asetusongelmina eivätkä kesken kokeen tulevina luotettavuusmerkintöinä. Läpinäkyvä portti ei ole kohteliaisuus puolustettavan kokeen päälle; se on osa sitä mikä tekee kokeesta puolustettavan.

Step 7: Pisteytä jokainen suorituskerta samaa standardia vasten

Liitä avoimiin vastaustehtäviin arviointimatriisit ennen toteutusta — kukin arviointimatriisi jäätyy tilannekuvaksi liitettäessä, joten jokainen kohortin hakija mitataan kirjaimellisesti samoja kriteerejä vasten vaikka hioisit arviointimatriisia seuraavaa kierrosta varten. Käytä ankkuroituja tasokuvauksia, jotta eri arvioijat päätyvät samaan pistemäärään samasta suorituksesta.

Tekoäly voi luonnostella yhteenvetoja ja kriteeritason pistehdotuksia malli ja versio kirjattuina, mutta nimetty ihminen vahvistaa jokaisen pistemäärän. Sovella vaiheessa yksi dokumentoimaasi läpäisykriteeriä mekaanisesti ja identtisesti jokaiseen suorituskertaan. Toteutuksesta tulevat luotettavuusmerkinnät tarkastaa ihminen varsinaisen työn rinnalla — merkintä on kontekstia ihmisen tekemälle tarkastukselle, ei koskaan itse päätös.

Step 8: Vie auditointipaketti kirjaukseksi

Kutakin sertifioitua — tai hylättyä — hakijaa kohti auditointipaketin vienti kokoaa puolustettavan kirjauksen: mitä häneltä kysyttiin, mitä hän palautti, arviointimatriisin tilannekuvat ja vahvistetut pisteet, arvioijien henkilöllisyydet, luotettavuustapahtumat määritettyine kynnysarvoineen sekä tekoälyn malli- ja versiolokit kaikista käytetyistä ehdotuksista. Tämän esität kun tuloksesta valitetaan tai viranomainen kysyy miten sertifikaatti ansaittiin.

Yhdistä se hakijan näyttöraporttiin — tulostettavaan, PDF-valmiiseen ja white-label-muotoiseen — hakijalle näkyvää puolta varten. Arkistoi auditointipaketti kohortti kerrallaan rutiinina, ei vain haastettaessa; päätöshetkellä koottu kirjaus on paljon arvokkaampi kuin vuotta myöhemmin uudelleen rakennettu.

Pro tips

  • Pilotoi koko koe talon henkilöstöllä todellisilla toteutusasetuksilla ennen ensimmäistä kohorttia — valvonnan virheasetukset paljastuvat vasta valvonnan alla.
  • Mitoita rikkomusrajat ihmisille, älä ihanteille: ilmoitusbanneri tai vahinkopyyhkäisy saa kuluttaa budjettia, ei päättää suorituskertaa.
  • Pidä tehtävävaranto kasvamassa kohorttien välillä ja poista käytöstä tehtävät jotka vuotavat tai suoriutuvat heikosti; staattinen varanto rapistuu.
  • Dokumentoi läpäisykriteeri ja osiopainot ohjelmasi kirjauksiin, älä vain alustalle — valituksiin vastataan asiakirjoista.
  • Älä koskaan anna pakkopalautuksen jäädä hylkäykseksi yksinään; ihminen tarkastaa suorituskerran, tallenteet ja auditointitapahtumat ennen kuin mikään lopputulos on lopullinen.

Usein kysytyt kysymykset

Mitä tapahtuu, kun hakija ylittää lockdownin rikkomusrajat?
Suorituskerta pakkopalautetaan ja auditointitapahtuma kirjataan. Se on määritetty katto jonka hakija näki suostumusportilla, ei automaattinen hylkäys — ihminen tarkastaa suorituskerran, rikkomusten aikajanan ja mahdolliset tallenteet ennen kuin päättää mikä lopputuloksen tulisi olla.
Miten rinnakkaiset koesarjat toimivat ilman useiden kokeiden kirjoittamista?
Siemennetty sekoitus osio-, sivu- ja lohkotasolla antaa jokaiselle suorituskerralle oman järjestyksensä sisällön ja vaikeuden pysyessä vakioina. Kunkin hakijan siemen pitää hänen kokemuksensa sisäisesti johdonmukaisena, ja jaetut vastausavaimet menettävät arvonsa koska sijainti ei enää tunnista kysymystä.
Onko täysi valvonta asianmukaista jokaiseen kokeeseen?
Ei — luotettavuuskontrollien tulisi olla oikeassa suhteessa panoksiin. Sertifiointi, joka portittaa ammatillisen pätevyystodistuksen, oikeuttaa lockdownin, tallennuksen ja henkilöllisyyden tarkistukset; sisäinen osaamiskartoitus ei. Kaikesta mitä otat käyttöön kerrotaan hakijoille suostumusportilla, ja merkinnät tarkastaa aina ihminen.
Voimmeko käyttää tehtävävarantoa uudelleen sertifiointikierrosten välillä?
Kyllä — juuri sitä varten pankitettu kansiorakenne on. Tagita tehtävät kompetenssin ja vaikeuden mukaan, poista käytöstä vaarantuneet tai heikot tehtävät kohorttien välissä ja lisää tuoreita tekoälytuotannolla lähdemateriaaliisi pohjustettuna, tarkastaen jokaisen luonnoksen ennen kuin se pääsee varantoon.
Mitä auditointipakettiin menee?
Täydellinen päätöskirjaus: esitetyt tehtävät, hakijan palautukset, jäädytetyt arviointimatriisin tilannekuvat, vahvistetut pisteet arvioijien henkilöllisyyksineen, luotettavuustapahtumat määritettyjä kynnysarvojaan vasten sekä malli- ja versiolokit kaikista tekoälyn ehdotuksista. Se on se tiedosto jonka ojennat kun tulos kyseenalaistetaan.

For hiring teams

Tee sertifioinnistasi puolustettava

Varaa esittely, niin määritämme sertifiointitoteutuksen ohjelmallesi — valvonta, rinnakkaiset koesarjat ja auditointipaketti — omaa materiaaliasi käyttäen.

Näin luot sertifiointikokeen | SkillCort