Como lidamos com a IA

Porque existe esta página

A IA está hoje dentro da maioria dos processos de recrutamento, e os modos de falha já não são hipotéticos. Os modelos de linguagem generalizam a partir de pouca evidência, pelo que conseguem formar estereótipos mais depressa do que as pessoas que deviam auxiliar. Sistemas que aprendem com os resultados das contratações podem transformar uma recusa inicial num padrão duradouro contra um grupo inteiro. As funcionalidades de memória, que tornam os assistentes mais pessoais, também deixam os enviesamentos acumular-se. E a salvaguarda mais comum — dizer ao modelo para «ser justo» — fica mensuravelmente aquém, porque as instruções não se sobrepõem àquilo para que o sistema está otimizado.

Construímos a arquitetura de IA da SkillCort contra estes modos de falha, e não à volta deles. Esta página explica o desenho em detalhe: o que a nossa IA faz, o que estruturalmente não pode fazer e como se pode verificar ambas as coisas. Nada disto é aspiração — todos os mecanismos aqui descritos estão vivos no produto, e o nosso relatório público de governação acompanha a evidência.

A única regra de que tudo o resto decorre

A IA ajuda. As pessoas decidem. Na SkillCort, um resultado de IA é sempre uma entrada para um juízo humano, nunca um juízo em si mesmo. A IA redige tarefas e grelhas de avaliação, conduz entrevistas estruturadas como uma persona identificada enquanto tal, transcreve e resume respostas, extrai citações de evidência e propõe pontuações ao nível do critério. Um avaliador humano identificado confirma cada pontuação; uma pessoa identificada toma cada decisão de fluxo — avançar, aguardar, excluir. Não existe configuração, escalão de plano ou limiar que altere isto.

Isto é imposto na base de dados, não num documento de política: as tabelas de pontuações e de decisões só podem ser escritas por caminhos controlados que registam um autor humano. O botão que permite a um algoritmo excluir uma pessoa não existe no nosso código — e a nossa barreira pública de governação foi feita para impedir que alguma vez seja acrescentado em surdina.

A nossa IA não tem memória das pessoas — por arquitetura

A forma mais rápida de um sistema de IA desenvolver enviesamento é deixá-lo aprender com o seu próprio histórico de contratações: um candidato de um grupo tem mau desempenho e o sistema desvaloriza discretamente o seguinte. A IA de avaliação da SkillCort não tem estado, por desenho. Cada chamada à IA — um rascunho, um resumo, um turno de entrevista, uma pontuação proposta — parte do zero, vê apenas o material que tem à frente e não retém nada no fim.

Em concreto: a nossa IA nunca aprende com os resultados das contratações. As decisões tomadas no Quadro de Decisão nunca são reintroduzidas em modelo nenhum. Nenhum modelo é afinado, retreinado ou «melhorado» com os dados dos seus candidatos. Não há memória de candidatos partilhada entre clientes, não há listas negras comuns e não há pontuação de reputação que siga uma pessoa de empregador em empregador — são fronteiras permanentes do produto, não itens de um roteiro. Um candidato que se candidata duas vezes é, para a nossa IA, dois trabalhos sem relação entre si.

A IA vê o trabalho, não a pessoa

Os modelos não conseguem estereotipar com base em sinais que nunca recebem. Quando a IA da SkillCort resume ou propõe uma pontuação, a sua entrada é o trabalho produzido pelo candidato — a resposta escrita, o código, a transcrição — juntamente com a grelha segundo a qual tem de pontuar. Não lhe são dados o nome, a fotografia, os dados demográficos, o currículo nem qualquer sinal de grupo do candidato como material de apreciação.

Duas proibições relacionadas são absolutas. A nossa IA nunca infere personalidade, emoção ou veracidade a partir do rosto, da voz ou da forma de escrever de um candidato — o vídeo existe para revisão de integridade por pessoas, não para um juízo algorítmico de carácter. E os sinais de integridade (uma mudança de separador, uma colagem, um alerta de câmara) nunca são dados a uma IA para que emita um veredicto: aterram numa linha temporal que uma pessoa revê, sem que nenhum sinal isolado possa excluir seja quem for.

A revisão de identidade é deliberadamente só humana. Quando está ativa, a selfie da sessão, a fotografia do documento captada e a fotografia de referência opcional fornecida pela organização são mostradas lado a lado a um revisor autorizado. A SkillCort não calcula semelhança facial, não pesquisa galerias, não compara candidatos entre si nem armazena modelos biométricos do rosto. Os candidatos são informados antes da sessão, e a identidade de quem revê, a decisão e a data ficam registadas sem afetar a pontuação nem a ordenação da avaliação.

A equidade é uma estrutura, não um prompt

Instruir um modelo para não ser enviesado é quase gratuito — e quase inútil. Tratamos a equidade ao nível do prompt como uma cortesia, não como um controlo. Os controlos que contam são estruturais: evidência de provas de trabalho em vez de sinais substitutos, pontuação ancorada numa grelha em vez de impressões livres, e resultados de IA que chegam como rascunhos identificados como tal, que uma pessoa tem de confirmar ativamente.

Depois medimos. As avaliações reportam a concordância entre avaliadores (ICC) e a consistência interna, para que uma pontuação pouco fiável fique visível em vez de ser dada como adquirida. As páginas de perfil monitorizam a disparidade entre grupos com o rácio de impacto dos quatro quintos e com dimensões de efeito, sobre qualquer campo que a organização escolha acompanhar — e dizemos com todas as letras que um alerta aí desencadeia uma investigação feita por pessoas, nunca uma correção automática que poderia ela própria falhar. Onde não temos evidência, dizemo-lo: não afirmamos uma capacidade preditiva que não tenhamos medido.

Todos os resultados da IA deixam rasto

É a opacidade que transforma os erros da IA em erros por que ninguém responde. Todos os resultados assistidos por IA na SkillCort levam proveniência: que modelo, que versão, quando e sobre que entrada — registado num livro que a sua organização pode auditar e exportar. As sessões de avaliação fixam a sua configuração de IA no início, para que uma mudança de modelo a meio do exame não possa alterar em silêncio a forma como os candidatos são tratados dentro de uma mesma coorte.

A mesma transparência é dirigida aos candidatos. Quando os candidatos interagem com o nosso entrevistador de IA, isso é revelado como sendo IA — uma persona desenhada, nunca um humano fingido. As aplicações podem oferecer aos candidatos uma escolha explícita quanto à participação da IA, e nenhum sinal de integridade isolado exclui um candidato por si só — uma sessão assinalada chega a uma pessoa. Os candidatos colocam as suas questões junto da organização que conduz a avaliação, para a qual a SkillCort encaminha, mas que não substitui. Os avisos de consentimento dizem o que é recolhido, porquê e por quanto tempo; a retenção é um controlo definido pela organização, com a eliminação a ser respeitada mediante pedido.

As pessoas podem sempre puxar o travão

Uma automatização de confiança precisa de um interruptor que funcione em pleno voo. Os proprietários da organização podem suspender as superfícies de IA de imediato — por superfície, por fornecedor — e o produto degrada-se com elegância para o seu fluxo humano: a avaliação continua, a pontuação continua, as decisões continuam. Na SkillCort, a IA é uma camada por cima de um processo humano completo, e não uma dependência sem a qual o processo não corre.

As alterações a tudo isto são elas próprias governadas. As partes do nosso código que tocam na responsabilidade pela decisão com IA, no consentimento dos candidatos, na gravação ou neste próprio conjunto de compromissos ficam atrás de uma barreira de alterações que exige aprovação humana explícita — revista, etiquetada e registada. Publicamos o que está verificado, o que está limitado e o que falhou no nosso relatório de governação, porque uma página de confiança que só diz «está tudo bem» é marketing, não é prestação de contas.

O que não vamos construir

As fronteiras só são reais se sobreviverem aos incentivos. Estas são as nossas, inalteradas desde a primeira linha de código, e são elas que tornam credível o resto desta página:

• Sem decisões de contratação tomadas por IA — uma pessoa identificada responde por cada pontuação e por cada decisão
• Sem aprendizagem a partir dos resultados das contratações — as decisões nunca treinam nem orientam os nossos modelos
• Sem memória de candidatos partilhada entre clientes, listas negras comuns ou pontuações de reputação transferíveis
• Sem deteção de personalidade, de emoção ou de mentira a partir do rosto, da voz ou das teclas
• Sem IA escondida — os candidatos sabem sempre quando estão a falar com uma máquina
• Sem alterações silenciosas — mudar o código de governação da IA exige aprovação humana revista

A aposta que estamos a fazer

A aposta da indústria é que uma IA mais autónoma torne o recrutamento mais barato. A nossa aposta é outra: que o verdadeiro valor da IA no recrutamento está em tornar melhor o juízo humano — mais rápido a chegar à evidência, mais difícil de enviesar, mais fácil de defender. Isso implica aceitar um atrito que a versão autónoma evita: uma pessoa confirma cada pontuação, a proveniência é registada mesmo quando ninguém a pede, e há funcionalidades que estão permanentemente fora de questão.

Achamos que essa troca não é só mais segura, é mais rigorosa — uma decisão que alguém consegue explicar tende a ser uma decisão melhor. Se avalia pessoas para viver, merece ferramentas construídas sobre essa premissa. Esta página é o nosso compromisso permanente de continuar a construí-las assim.