Miten käsittelemme tekoälyä

Miksi tämä sivu on olemassa

Tekoäly on nyt useimpien rekrytointisuppiloiden sisällä, eivätkä vikaantumistavat ole enää teoreettisia. Kielimallit yleistävät ohuesta aineistosta, joten ne voivat muodostaa stereotypioita nopeammin kuin ne ihmiset, joita niiden oli määrä avustaa. Järjestelmät, jotka oppivat rekrytoinnin lopputuloksista, voivat muuttaa yhden varhaisen hylkäyksen pysyväksi kaavaksi kokonaista ryhmää vastaan. Muistiominaisuudet, jotka tekevät avustajista henkilökohtaisempia, antavat myös vinoumien kasautua. Ja yleisin suojakeino — mallille annettu ohje ”ole reilu” — alisuoriutuu mitattavasti, koska ohjeet eivät kumoa sitä, mihin järjestelmä on optimoitu.

Rakensimme SkillCortin tekoälyarkkitehtuurin näitä vikaantumistapoja vastaan, emme niiden ympärille. Tämä sivu selittää suunnittelun yksityiskohtaisesti: mitä tekoälymme tekee, mitä se ei rakenteellisesti voi tehdä ja miten voit todentaa molemmat. Mikään tästä ei ole tavoitetila — jokainen tässä kuvattu mekanismi on tuotteessa käytössä, ja julkinen hallintaraporttimme seuraa näyttöä.

Se yksi sääntö, josta kaikki muu seuraa

Tekoäly avustaa. Ihmiset päättävät. SkillCortissa tekoälyn tuotos on aina syöte ihmisen arvostelukyvylle, ei koskaan arvio itsessään. Tekoäly luonnostelee arviointitehtäviä ja arviointimatriiseja, käy jäsenneltyjä haastatteluja avoimesti kerrottuna persoonana, litteroi ja tiivistää vastauksia, poimii siteerattua näyttöä ja ehdottaa kriteerikohtaisia pisteitä. Nimetty ihmisarvioija vahvistaa jokaisen pistemäärän; nimetty ihminen tekee jokaisen työnkulkupäätöksen — etene, pidä, hylkää. Mikään asetus, pakettitaso tai kynnysarvo ei muuta tätä.

Tämä on varmistettu tietokannassa, ei linjapaperissa: pisteytys- ja päätöstauluihin voi kirjoittaa vain hallittuja polkuja pitkin, jotka kirjaavat ihmistoimijan. Sitä painiketta, jolla algoritmi voisi hylätä ihmisen, ei ole koodikannassamme — ja julkinen hallintaporttimme on suunniteltu estämään sen lisääminen hiljaisesti.

Tekoälyllämme ei ole muistia ihmisistä — arkkitehtuurin vuoksi

Nopein tapa saada tekoälyjärjestelmä vinoutumaan on antaa sen oppia omasta rekrytointihistoriastaan: yksi hakija jostakin ryhmästä suoriutuu heikosti, ja järjestelmä laskee hiljaa seuraavan arvoa. SkillCortin arviointitekoäly on lähtökohtaisesti tilaton. Jokainen tekoälykutsu — luonnos, tiivistelmä, haastatteluvuoro, ehdotettu pistemäärä — alkaa nollasta, näkee vain edessään olevan aineiston eikä säilytä sen jälkeen mitään.

Konkreettisesti: tekoälymme ei koskaan opi rekrytoinnin lopputuloksista. Päätöstaululla tehtyjä päätöksiä ei koskaan syötetä takaisin mihinkään malliin. Mitään mallia ei hienosäädetä, kouluteta uudelleen tai ”paranneta” asiakkaidesi hakijoiden datalla. Asiakasrajat ylittävää hakijamuistia ei ole, jaettua mustaa listaa ei ole, eikä ole mainepistettä, joka seuraisi ihmistä työnantajalta toiselle — nämä ovat pysyviä tuoterajoja, eivät tiekartan kohtia. Kahdesti hakeva hakija on tekoälyllemme kaksi toisiinsa liittymätöntä työsuoritusta.

Tekoäly näkee työn, ei ihmistä

Mallit eivät voi stereotypisoida signaaleista, joita ne eivät koskaan saa. Kun SkillCortin tekoäly tiivistää tai ehdottaa pistemäärää, sen syötteenä on hakijan työn tuotos — kirjoitettu vastaus, koodi, litterointi — yhdessä sen arviointimatriisin kanssa, jota vasten sen pitää pisteyttää. Sille ei anneta arvioinnin syötteeksi hakijan nimeä, valokuvaa, demografisia tietoja, ansioluetteloa eikä mitään ryhmäsignaalia.

Kaksi tähän liittyvää kieltoa ovat ehdottomia. Tekoälymme ei koskaan päättele persoonallisuutta, tunnetilaa tai totuudenmukaisuutta hakijan kasvoista, äänestä tai kirjoitustyylistä — video on olemassa ihmisten tekemää luotettavuustarkastusta varten, ei algoritmista luonnearviota varten. Eikä luotettavuussignaaleja (välilehden vaihto, liittäminen, kameramerkintä) koskaan syötetä tekoälylle tuomiota varten: ne laskeutuvat aikajanalle, jonka ihminen tarkastaa, eikä yksikään yksittäinen signaali voi hylätä ketään automaattisesti.

Henkilöllisyyden tarkastus on tietoisesti vain ihmisen tehtävä. Kun se on käytössä, istunnon selfie, kuvattu henkilöllisyystodistus ja organisaation mahdollisesti toimittama vertailukuva näytetään rinnakkain valtuutetulle tarkastajalle. SkillCort ei laske kasvojen samankaltaisuutta, ei hae kuvagallerioista, ei vertaa hakijoita keskenään eikä säilytä biometrisiä kasvomalleja. Hakijoille kerrotaan asiasta ennen istuntoa, ja tarkastajan henkilöllisyys, ratkaisu ja aikaleima kirjataan vaikuttamatta arvioinnin pisteytykseen tai järjestykseen.

Reiluus on rakenne, ei kehote

Mallin ohjeistaminen olemaan vinoutumaton on lähes ilmaista — ja lähes arvotonta. Pidämme kehotetason reiluutta kohteliaisuutena, emme kontrollina. Merkitsevät kontrollit ovat rakenteellisia: työnäyttönäyttö korvikesignaalien sijaan, arviointimatriisiin ankkuroitu pisteytys avointen vaikutelmien sijaan, ja tekoälyn tuotokset, jotka saapuvat merkittyinä luonnoksina, jotka ihmisen on aktiivisesti vahvistettava.

Ja sitten mittaamme. Arvioinnit raportoivat arvioijien välisen yhdenmukaisuuden (ICC) ja sisäisen konsistenssin, jotta epäluotettava pisteytys on näkyvissä eikä oletettuna pois. Blueprint-sivut seuraavat ryhmien välisiä eroja neljän viidesosan säännöllä ja efektikoolla minkä tahansa kentän yli, jota organisaatio päättää seurata — ja sanomme suoraan, että merkintä siellä käynnistää ihmisten tekemän selvityksen, ei koskaan automaattista korjausta, joka voisi itse mennä pieleen. Siellä missä meillä ei ole näyttöä, sanomme sen: emme väitä ennustevaliditeettia, jota emme ole mitanneet.

Jokaisesta tekoälyn tuotoksesta jää jälki

Läpinäkymättömyys on se, mikä muuttaa tekoälyn virheet vastuuttomiksi. Jokainen tekoälyavusteinen tuotos SkillCortissa kantaa alkuperätiedon: mikä malli, mikä versio, milloin ja mistä syötteestä — kirjattuna kirjanpitoon, jonka organisaatiosi voi auditoida ja viedä ulos. Arviointi-istunnot kiinnittävät tekoälykokoonpanonsa alussa, joten kesken kokeen tehty mallinvaihto ei voi hiljaa muuttaa sitä, miten hakijoita kohdellaan saman kohortin sisällä.

Sama läpinäkyvyys näkyy hakijalle. Kun hakijat ovat vuorovaikutuksessa tekoälyhaastattelijamme kanssa, se kerrotaan tekoälyksi — suunnitelluksi persoonaksi, ei koskaan tekaistuksi ihmiseksi. Toimitukset voivat tarjota hakijoille nimenomaisen valinnan tekoälyyn osallistumisesta, eikä yksikään yksittäinen luotettavuussignaali hylkää hakijaa itsestään — merkitty istunto päätyy ihmiselle. Hakijat nostavat huolensa esiin sen organisaation kautta, joka arvioinnin toteuttaa, ja SkillCort ohjaa sinne muttei korvaa sitä. Suostumusilmoitukset kertovat mitä kerätään, miksi ja kuinka pitkäksi aikaa; säilytysaika on organisaation asettama kontrolli, ja poisto toteutetaan pyynnöstä.

Ihminen voi aina vetää jarrusta

Luotettava automaatio tarvitsee katkaisijan, joka toimii kesken lennon. Organisaation omistajat voivat pysäyttää tekoälypinnat välittömästi — pinnoittain, palveluntarjoajittain — ja tuote taipuu hallitusti takaisin ihmistyönkulkuunsa: arviointi jatkuu, pisteytys jatkuu, päätökset jatkuvat. Tekoäly on SkillCortissa kerros täydellisen ihmisprosessin päällä, ei riippuvuus, jota ilman prosessi ei toimi.

Muutokset kaikkeen tähän ovat itsekin hallittuja. Ne koodikantamme osat, jotka koskettavat tekoälypäätösten omistajuutta, hakijan suostumusta, tallentamista tai juuri näitä lupauksia, ovat muutosportin takana, joka vaatii nimenomaisen ihmisen hyväksynnän — tarkastettuna, merkittynä ja lokitettuna. Julkaisemme hallintaraportissamme sen, mikä on todennettu, mikä on rajattua ja mikä epäonnistui, koska luottamussivu joka sanoo vain ”kaikki on hyvin” on markkinointia, ei vastuunkantoa.

Mitä emme rakenna

Rajat ovat todellisia vain jos ne kestävät kannustimet. Nämä ovat meidän rajamme, muuttumattomina ensimmäisestä koodirivistä lähtien, ja ne tekevät tämän sivun muusta sisällöstä uskottavaa:

• Ei tekoälyn tekemiä rekrytointipäätöksiä — nimetty ihminen omistaa jokaisen pistemäärän ja jokaisen ratkaisun
• Ei oppimista rekrytoinnin lopputuloksista — päätökset eivät koskaan kouluta tai ohjaa mallejamme
• Ei asiakasrajat ylittävää hakijamuistia, jaettuja mustia listoja tai siirtyviä mainepisteitä
• Ei persoonallisuuden, tunnetilan tai valheen tunnistusta kasvoista, äänestä tai näppäilystä
• Ei piilotettua tekoälyä — hakija tietää aina puhuvansa koneelle
• Ei hiljaisia muutoksia — tekoälyn hallintaa koskevat koodimuutokset vaativat tarkastetun ihmisen hyväksynnän

Se veto, jonka teemme

Toimialan veto on, että itsenäisempi tekoäly tekee rekrytoinnista halvempaa. Meidän vetomme on toinen: että tekoälyn todellinen arvo rekrytoinnissa on ihmisen arvostelukyvyn parantaminen — nopeammin näyttöön, vaikeammin vinoutuvaksi, helpommin perusteltavaksi. Se tarkoittaa kitkan hyväksymistä, jonka itsenäinen versio välttää: ihminen vahvistaa jokaisen pistemäärän, alkuperätieto kirjataan silloinkin kun kukaan ei kysy, ja osa ominaisuuksista on pysyvästi pois pöydältä.

Uskomme, että tuo vaihtokauppa ei ole vain turvallisempi vaan myös tarkempi — päätös, jonka joku osaa perustella, on yleensä parempi päätös. Jos arvioit ihmisiä työksesi, ansaitset työkalut jotka on rakennettu tälle lähtökohdalle. Tämä sivu on pysyvä sitoumuksemme rakentaa niitä juuri niin.