Mitä kirjataan
Aina kun tekoäly avustaa arviointia — kriteeritason näytön poiminta, pisteluonnosehdotus, litterointi, litteroinnin arviointi tai hakijatiivistelmä — tuotos kirjataan mallin ja version alkuperätiedoilla. Tiedät aina, mikä malli ja mikä versio tuotti tietyn ehdotuksen, joten tuotos voidaan jäljittää lähteeseensä vielä pitkän ajan jälkeenkin. Tekoälyn luonnostelemat pankin tehtävät noudattavat eri takuuta: ne merkitään luonnoksiksi juuri siksi, että ihminen tarkistaa ne ennen kuin ne voivat pisteyttää ketään.
Missä alkuperätiedot näkyvät
Alkuperätiedot näkyvät siellä, missä niillä on eniten merkitystä. Litterointien arvioinnit ja hakijatiivistelmät näyttävät ne tuottaneen mallin suoraan käyttöliittymässä, jotta arvioija näkee, mistä hän työskentelee; jokainen avustettu arviointituotos kirjataan lisäksi palvelimelle mallin, version ja käytön kanssa alustan tekoälyn luontilokiin.
Itse kirjaus pysyy ihmisen: auditointipaketti — itsenäinen päätöskansio — dokumentoi tekoälykäytännön ja näyttää jokaisen pistemäärän nimetyn arvioijansa ja aikaleimansa alla, kun taas kunkin avustetun vaiheen malli- ja versioloki säilytetään alustan tekoälyn luontilokissa.
Vahvista tai kumoa -sääntö
Mikään tekoälyn tuotos ei päädy päätöskirjaukseen omin päin. Nimetty henkilö vahvistaa tai kumoaa jokaisen tekoälyn ehdotuksen: tekoälyn luonnostelemasta pistemäärästä tulee pistemäärä vasta kun arvioija hyväksyy sen omalla nimellään, ja tekoälyn luomat tehtävät ovat luonnoksia, jotka tarkistat ennen käyttöä. Joka tapauksessa kirjaus näyttää päätöksentekijänä ihmisen, ei mallia.
Miksi tällä on merkitystä perusteltavuuden kannalta
Kun hakija kyseenalaistaa lopputuloksen tai asiakas auditoi prosessiasi, ”tekoäly ehdotti sitä” ei ole vastaus — mutta ”tämä nimetty arvioija vahvisti tämän pistemäärän tämän mallin tämän version avustamana tänä päivänä” on. Alkuperätietojen kirjaaminen muuttaa tekoälyn tuen vastuuriskistä dokumentoiduksi, tarkastettavaksi vaiheeksi päätöksessä.
Se tekee tekoälyn roolista myös rajatun ja tarkastettavan: koska jokainen avustettu arviointituotos kirjataan mallinsa ja versionsa kanssa ja nimetty henkilö vahvistaa sen, voit osoittaa hakijalle, asiakkaalle tai tarkastajalle, että tekoäly tuki päätöstä koskaan tekemättä sitä.
At a glance
- Tekoälyn malli ja versio kirjataan jokaisesta arvioinnissa käytetystä avustetusta tuotoksesta — näytön poiminnasta, pisteehdotuksista, litteroinneista ja tiivistelmistä.
- Litterointien arvioinnit ja hakijatiivistelmät näyttävät mallin käyttöliittymässä; täysi loki sijaitsee palvelimella.
- Nimetty henkilö vahvistaa tai kumoaa jokaisen tekoälyn ehdotuksen ennen kuin se lasketaan.
- Jokainen kirjattu pistemäärä kantaa nimetyn arvioijan ja aikaleiman, oli se tekoälyavusteinen tai ei.
- Jälki on olemassa, jotta päätökset voidaan selittää ja perustella myöhemmin.