Come trattiamo l’IA

Perché esiste questa pagina

Oggi l’IA è dentro la maggior parte dei processi di selezione, e i modi in cui può fallire non sono più ipotesi. I modelli linguistici generalizzano da evidenze sottili, quindi possono formare stereotipi più in fretta delle persone che dovrebbero assistere. I sistemi che imparano dagli esiti di selezione possono trasformare una singola esclusione iniziale in uno schema duraturo contro un intero gruppo. Le funzioni di memoria, che rendono gli assistenti più personali, permettono anche ai pregiudizi di accumularsi. E la tutela più diffusa — dire a un modello di «essere equo» — rende in modo misurabilmente insufficiente, perché le istruzioni non annullano ciò per cui il sistema è ottimizzato.

L’architettura di IA di SkillCort è costruita contro questi modi di fallire, non attorno a essi. Questa pagina spiega il progetto nel dettaglio: che cosa fa la nostra IA, che cosa strutturalmente non può fare e come puoi verificare entrambe le cose. Non è un auspicio: ogni meccanismo descritto qui è attivo nel prodotto, e il nostro report pubblico di governance ne traccia le evidenze.

L’unica regola da cui discende tutto il resto

L’IA assiste. Le persone decidono. In SkillCort un output dell’IA è sempre un ingresso per un giudizio umano, mai un giudizio in sé. L’IA redige compiti e matrici di assessment, conduce colloqui strutturati come persona dichiarata, trascrive e sintetizza le risposte, estrae citazioni come evidenza e propone punteggi per criterio. Un valutatore umano con nome e cognome conferma ogni punteggio; una persona con nome e cognome prende ogni decisione di processo — avanzare, sospendere, escludere. Non esiste configurazione, livello di piano o soglia che possa cambiare tutto questo.

È imposto nel database, non in un documento di policy: le tabelle dei punteggi e delle decisioni possono essere scritte soltanto attraverso percorsi controllati che registrano un attore umano. Il pulsante che permette a un algoritmo di escludere una persona non esiste nel nostro codice — e la nostra barriera pubblica di governance è progettata perché non possa mai esservi aggiunto di nascosto.

La nostra IA non ha memoria delle persone — per architettura

Il modo più rapido perché un sistema di IA sviluppi pregiudizi è lasciargli imparare dalla propria storia di selezione: un candidato di un certo gruppo rende poco e il sistema declassa in silenzio il successivo. L’IA di assessment di SkillCort è priva di stato per progetto. Ogni chiamata all’IA — una bozza, una sintesi, un turno di colloquio, una proposta di punteggio — parte da zero, vede solo il materiale che ha davanti e non trattiene nulla dopo.

In concreto: la nostra IA non impara mai dagli esiti di selezione. Le decisioni prese sul Tavolo decisionale non vengono mai reimmesse in alcun modello. Nessun modello viene messo a punto, riaddestrato o «migliorato» sui dati dei tuoi candidati. Non esiste una memoria dei candidati condivisa tra clienti, non esiste una lista nera comune e non esiste un punteggio reputazionale che segua una persona da un datore di lavoro all’altro: sono confini di prodotto permanenti, non voci di roadmap. Un candidato che si presenta due volte, per la nostra IA, è due lavori senza alcun legame tra loro.

L’IA vede il lavoro, non la persona

I modelli non possono costruire stereotipi su segnali che non ricevono mai. Quando l’IA di SkillCort sintetizza o propone un punteggio, il suo input è il prodotto del lavoro del candidato — la risposta scritta, il codice, la trascrizione — insieme alla matrice rispetto a cui deve valutare. Non riceve come input di valutazione il nome, la fotografia, i dati demografici, il curriculum o alcun segnale di appartenenza a un gruppo.

Due divieti collegati sono assoluti. La nostra IA non deduce mai personalità, emozioni o veridicità dal volto, dalla voce o dal modo di digitare di un candidato: il video esiste per la revisione di integrità fatta da persone, non per un giudizio algoritmico sul carattere. E i segnali di integrità (un cambio di scheda, un incolla, una segnalazione dalla telecamera) non vengono mai dati in pasto all’IA perché emetta un verdetto: finiscono su una linea temporale che una persona esamina, e nessun segnale singolo può scartare qualcuno in automatico.

La revisione dell’identità è deliberatamente solo umana. Quando è attiva, il selfie della sessione, la foto acquisita del documento e l’eventuale foto di riferimento fornita dall’organizzazione vengono mostrati affiancati a una persona autorizzata. SkillCort non calcola alcuna somiglianza facciale, non effettua ricerche in galleria, non mette a confronto i candidati tra loro e non conserva modelli biometrici del volto. I candidati ne sono informati prima della sessione, e l’identità di chi revisiona, la sua decisione e la marca temporale vengono registrate senza incidere sulla valutazione né sulla graduatoria dell’assessment.

L’equità è una struttura, non un prompt

Istruire un modello a essere imparziale non costa quasi nulla — e non vale quasi nulla. Trattiamo l’equità a livello di prompt come una cortesia, non come un controllo. I controlli che contano sono strutturali: evidenze da prove di lavoro al posto di segnali indiretti, valutazione ancorata a una matrice al posto di impressioni libere, e output dell’IA che arrivano come bozze etichettate, che una persona deve confermare attivamente.

Poi misuriamo. Gli assessment riportano l’accordo tra valutatori (ICC) e la coerenza interna, così una valutazione poco affidabile si vede invece di essere data per buona. Le pagine dei profili di ruolo monitorano la disparità tra gruppi con il rapporto di impatto dei quattro quinti e con le dimensioni dell’effetto, su qualsiasi campo l’organizzazione scelga di tracciare — e diciamo esplicitamente che una segnalazione lì innesca un approfondimento da parte di persone, mai una correzione automatica che potrebbe a sua volta sbagliare bersaglio. Dove non abbiamo evidenze lo diciamo: non rivendichiamo una validità predittiva che non abbiamo misurato.

Ogni output dell’IA lascia una traccia

È l’opacità a trasformare gli errori dell’IA in errori di cui nessuno risponde. Ogni output assistito dall’IA in SkillCort porta con sé la propria provenienza: quale modello, quale versione, quando, su quale input — registrata in un registro che la tua organizzazione può verificare ed esportare. Le sessioni di assessment fissano la propria configurazione di IA all’avvio, così un cambio di modello a metà esame non può alterare in silenzio il trattamento dei candidati all’interno di uno stesso gruppo.

La stessa trasparenza è rivolta ai candidati. Quando i candidati interagiscono con il nostro intervistatore IA, questo è dichiarato come IA — una persona progettata, mai un finto essere umano. Le somministrazioni possono offrire ai candidati una scelta esplicita sulla partecipazione dell’IA, e nessun singolo segnale di integrità scarta da sé un candidato: una sessione segnalata arriva a una persona. I candidati portano le proprie segnalazioni all’organizzazione che conduce l’assessment: SkillCort indirizza verso di essa, ma non la sostituisce. Le informative sul consenso dicono che cosa viene raccolto, perché e per quanto tempo; la conservazione è un controllo che imposta l’organizzazione, con la cancellazione onorata su richiesta.

Le persone possono sempre tirare il freno

Un’automazione affidabile ha bisogno di un interruttore che funzioni anche a metà volo. I titolari dell’organizzazione possono sospendere le superfici di IA all’istante — per singola superficie, per singolo fornitore — e il prodotto degrada con eleganza verso il suo flusso umano: l’assessment continua, la valutazione continua, le decisioni continuano. In SkillCort l’IA è uno strato sopra un processo umano completo, non una dipendenza senza la quale il processo non gira.

Anche le modifiche a tutto questo sono governate. Le parti del nostro codice che toccano la responsabilità delle decisioni assistite dall’IA, il consenso dei candidati, la registrazione o proprio questo insieme di impegni stanno dietro una barriera che richiede un’approvazione umana esplicita — esaminata, etichettata e registrata. Nel nostro report di governance pubblichiamo che cosa è verificato, che cosa è limitato e che cosa non ha funzionato, perché una pagina sulla fiducia che dice sempre e solo «va tutto bene» è marketing, non responsabilità.

Che cosa non costruiremo

I confini sono reali solo se sopravvivono agli incentivi. Questi sono i nostri, immutati dalla prima riga di codice, e sono ciò che rende credibile il resto di questa pagina:

• Nessuna decisione di selezione presa dall’IA — una persona con nome e cognome risponde di ogni punteggio e di ogni scelta
• Nessun apprendimento dagli esiti di selezione — le decisioni non addestrano né orientano i nostri modelli
• Nessuna memoria dei candidati condivisa tra clienti, nessuna lista nera comune, nessun punteggio reputazionale trasferibile
• Nessun rilevamento di personalità, emozioni o menzogne dal volto, dalla voce o dalla digitazione
• Nessuna IA nascosta — i candidati sanno sempre quando stanno parlando con una macchina
• Nessun cambiamento silenzioso — le modifiche al codice di governance dell’IA richiedono un’approvazione umana esaminata

La scommessa che stiamo facendo

La scommessa del settore è che un’IA più autonoma renderà la selezione più economica. La nostra è diversa: il valore vero dell’IA nella selezione è rendere migliore il giudizio umano — più rapido nell’arrivare alle evidenze, più difficile da distorcere, più facile da sostenere. Significa accettare un attrito che la versione autonoma evita: una persona conferma ogni punteggio, la provenienza viene registrata anche quando nessuno la chiede, e alcune funzionalità restano fuori discussione per sempre.

Pensiamo che questo scambio non sia solo più sicuro, ma anche più accurato: una decisione che qualcuno sa spiegare tende a essere una decisione migliore. Se valuti persone per mestiere, meriti strumenti costruiti su questa premessa. Questa pagina è il nostro impegno permanente a continuare a costruirli così.