Cómo tratamos la IA

Por qué existe esta página

La IA ya está dentro de la mayoría de los embudos de contratación, y sus modos de fallo han dejado de ser hipotéticos. Los modelos de lenguaje generalizan a partir de evidencias escasas, así que pueden formar estereotipos más rápido que las personas a las que debían ayudar. Los sistemas que aprenden de los resultados de contratación pueden convertir un descarte temprano en un patrón duradero contra todo un colectivo. Las funciones de memoria que hacen más personales a los asistentes también permiten que se acumulen sesgos. Y la salvaguarda más habitual —pedirle a un modelo que «sea justo»— rinde de forma medible por debajo de lo prometido, porque las instrucciones no anulan aquello para lo que el sistema está optimizado.

Construimos la arquitectura de IA de SkillCort contra esos modos de fallo, no alrededor de ellos. Esta página explica el diseño en detalle: qué hace nuestra IA, qué no puede hacer estructuralmente y cómo puede comprobar ambas cosas. Nada de esto es aspiración — todos los mecanismos que se describen aquí están vivos en el producto, y nuestro informe público de gobernanza lleva el registro de las evidencias.

La única regla de la que se deriva todo lo demás

La IA asiste. Las personas deciden. En SkillCort, una salida de IA siempre es una entrada para un juicio humano, nunca un juicio en sí misma. La IA redacta tareas de evaluación y rúbricas, conduce entrevistas estructuradas como una persona declarada, transcribe y resume respuestas, extrae evidencias citadas y propone puntuaciones por criterio. Un evaluador humano con nombre confirma cada puntuación; una persona con nombre toma cada decisión del proceso: avanzar, dejar en espera, descartar. No hay configuración, nivel de plan ni umbral que cambie esto.

Esto se impone en la base de datos, no en un documento de política: las tablas de puntuaciones y de decisiones solo se pueden escribir por vías controladas que registran a un actor humano. El botón que permite a un algoritmo descartar a una persona no existe en nuestro código — y nuestra barrera pública de gobernanza está diseñada para que nunca se añada en silencio.

Nuestra IA no tiene memoria de las personas — por arquitectura

La vía más rápida para que un sistema de IA desarrolle sesgos es dejar que aprenda de su propio historial de contratación: un candidato de un colectivo rinde por debajo y el sistema rebaja discretamente al siguiente. La IA de evaluación de SkillCort no tiene estado, por diseño. Cada llamada a la IA —un borrador, un resumen, un turno de entrevista, una puntuación propuesta— parte de cero, ve únicamente el material que tiene delante y no retiene nada después.

En concreto: nuestra IA nunca aprende de los resultados de contratación. Las decisiones tomadas en el Tablero de decisión nunca se devuelven a ningún modelo. Ningún modelo se ajusta, se reentrena ni se «mejora» con los datos de sus candidatos. No hay memoria de candidatos entre clientes, ni lista negra compartida, ni puntuación de reputación que siga a una persona de un empleador a otro — son límites permanentes del producto, no elementos de una hoja de ruta. Para nuestra IA, alguien que se presenta dos veces son dos trabajos sin relación entre sí.

La IA ve el trabajo, no a la persona

Los modelos no pueden estereotipar a partir de señales que nunca reciben. Cuando la IA de SkillCort resume o propone una puntuación, su entrada es el trabajo producido por el candidato —la respuesta escrita, el código, la transcripción— junto con la rúbrica frente a la que debe puntuar. No recibe el nombre, la foto, los datos demográficos, el currículum ni ninguna señal de grupo del candidato como entrada de evaluación.

Dos prohibiciones relacionadas son absolutas. Nuestra IA nunca infiere personalidad, emociones ni veracidad a partir del rostro, la voz o la forma de teclear de un candidato — el vídeo existe para la revisión de integridad por parte de personas, no para un juicio algorítmico sobre el carácter. Y las señales de integridad (un cambio de pestaña, un pegado, una marca de cámara) nunca se entregan a la IA para que emita un veredicto: aterrizan en una línea temporal que revisa una persona, y ninguna señal por sí sola puede descartar automáticamente a nadie.

La revisión de identidad es deliberadamente solo humana. Cuando está activada, el selfi de la sesión, la foto del documento capturada y la foto de referencia opcional aportada por la organización se muestran una al lado de la otra a una persona revisora autorizada. SkillCort no calcula similitud facial, no busca en galerías, no compara a unos candidatos con otros ni almacena plantillas biométricas del rostro. Se informa a los candidatos antes de la sesión, y la identidad de quien revisa, su decisión y la marca de tiempo quedan registradas sin afectar a la puntuación ni a la ordenación de la evaluación.

La equidad es una estructura, no una instrucción

Pedirle a un modelo que no tenga sesgos sale casi gratis — y vale casi lo mismo. Tratamos la equidad al nivel de la instrucción como una cortesía, no como un control. Los controles que importan son estructurales: evidencias de muestras de trabajo en lugar de señales indirectas, puntuación anclada a una rúbrica en lugar de impresiones abiertas, y salidas de IA que llegan como borradores etiquetados que una persona debe confirmar de forma activa.

Y después medimos. Las evaluaciones informan de la concordancia entre evaluadores (ICC) y de la consistencia interna, para que una puntuación poco fiable se vea en lugar de darse por buena. Las páginas de blueprint vigilan la disparidad entre grupos con la regla de los cuatro quintos y con tamaños del efecto sobre cualquier campo que la organización decida seguir — y decimos con claridad que una marca ahí abre una investigación hecha por personas, nunca una corrección automática que podría fallar por su cuenta. Donde no tenemos evidencias, lo decimos: no afirmamos una validez predictiva que no hayamos medido.

Cada salida de IA deja rastro documental

La opacidad es lo que convierte los errores de la IA en errores de los que nadie responde. Cada salida asistida por IA en SkillCort lleva su trazabilidad: qué modelo, qué versión, cuándo y sobre qué entrada — registrado en un libro que su organización puede auditar y exportar. Las sesiones de evaluación fijan su configuración de IA al empezar, de modo que un cambio de modelo a mitad del examen no puede alterar en silencio cómo se trata a los candidatos dentro de una misma cohorte.

La misma transparencia se dirige a los candidatos. Cuando los candidatos interactúan con nuestra IA entrevistadora, se declara que es una IA: una persona diseñada, nunca un humano fingido. Las convocatorias pueden ofrecer a los candidatos una elección explícita sobre su participación con IA, y ninguna señal de integridad por sí sola descarta a un candidato — una sesión marcada llega a una persona. Los candidatos plantean sus objeciones a través de la organización que ejecuta la evaluación, a la que SkillCort dirige pero a la que no sustituye. Los avisos de consentimiento dicen qué se recoge, para qué y durante cuánto tiempo; la conservación es un control que fija la organización, y el borrado se atiende cuando se solicita.

Las personas siempre pueden accionar el freno

Una automatización fiable necesita un interruptor de apagado que funcione en pleno vuelo. Los propietarios de una organización pueden pausar al instante las superficies de IA —por superficie y por proveedor— y el producto se degrada con elegancia hacia su flujo humano: la evaluación continúa, la puntuación continúa, las decisiones continúan. En SkillCort, la IA es una capa sobre un proceso humano completo, no una dependencia sin la que el proceso no pueda funcionar.

Los cambios en cualquiera de estos puntos están, a su vez, gobernados. Las partes de nuestro código que tocan la responsabilidad sobre las decisiones con IA, el consentimiento de los candidatos, la grabación o este mismo conjunto de compromisos están detrás de una barrera de cambios que exige aprobación humana explícita — revisada, etiquetada y registrada. Publicamos qué está verificado, qué es limitado y qué falló en nuestro informe de gobernanza, porque una página de confianza que solo dice «todo va bien» es marketing, no rendición de cuentas.

Lo que no vamos a construir

Los límites solo son reales si sobreviven a los incentivos. Estos son los nuestros, sin cambios desde la primera línea de código, y son lo que hace creíble el resto de esta página:

• Ninguna decisión de contratación tomada por la IA — una persona con nombre responde de cada puntuación y de cada decisión
• Ningún aprendizaje a partir de los resultados de contratación — las decisiones nunca entrenan ni orientan nuestros modelos
• Ninguna memoria de candidatos entre clientes, lista negra compartida ni puntuación de reputación portátil
• Ninguna detección de personalidad, emociones o mentiras a partir del rostro, la voz o las pulsaciones de teclado
• Ninguna IA oculta — los candidatos siempre saben cuándo hablan con una máquina
• Ningún cambio silencioso — los cambios en el código de gobernanza de la IA exigen una aprobación humana revisada

La apuesta que hacemos

La apuesta del sector es que una IA más autónoma abaratará la contratación. La nuestra es distinta: que el valor real de la IA en la contratación está en mejorar el criterio humano — llegar antes a la evidencia, ser más difícil de sesgar, resultar más fácil de defender. Eso implica aceptar una fricción que la versión autónoma se ahorra: una persona confirma cada puntuación, la trazabilidad se registra aunque nadie la pida y algunas funcionalidades quedan descartadas para siempre.

Creemos que ese intercambio no solo es más seguro, sino más exacto — una decisión que alguien sabe explicar suele ser una decisión mejor. Si evalúa a personas para ganarse la vida, merece herramientas construidas sobre esa premisa. Esta página es nuestro compromiso permanente de seguir construyéndolas así.