Jak obchodzimy się z AI

Dlaczego ta strona istnieje

AI jest dziś wewnątrz większości lejków rekrutacyjnych, a sposoby, w jakie zawodzi, przestały być hipotetyczne. Modele językowe uogólniają z cienkich przesłanek, więc potrafią tworzyć stereotypy szybciej niż ludzie, którym miały pomagać. Systemy uczące się na wynikach rekrutacji potrafią zamienić jedno wczesne odrzucenie w trwały wzorzec wymierzony w całą grupę. Funkcje pamięci, które czynią asystentów bardziej osobistymi, pozwalają też kumulować uprzedzenia. A najczęstsze zabezpieczenie — polecenie modelowi, żeby „był sprawiedliwy” — wymiernie zawodzi, bo instrukcje nie unieważniają tego, do czego system jest optymalizowany.

Architekturę AI w SkillCort zbudowaliśmy przeciwko tym sposobom zawodzenia, a nie wokół nich. Ta strona wyjaśnia projekt szczegółowo: co nasza AI robi, czego strukturalnie nie może zrobić i jak można sprawdzić jedno i drugie. Nic z tego nie jest aspiracją — każdy opisany tu mechanizm działa w produkcie, a nasz publiczny raport nadzoru śledzi dowody.

Jedna zasada, z której wynika cała reszta

AI wspiera. Decydują ludzie. W SkillCort wynik pracy AI jest zawsze wejściem do ludzkiego osądu, nigdy samym osądem. AI przygotowuje szkice zadań i rubryk, prowadzi ustrukturyzowane rozmowy jako jawna persona, transkrybuje i streszcza odpowiedzi, wyciąga cytowane dowody i proponuje oceny na poziomie kryteriów. Wskazany z imienia oceniający potwierdza każdy wynik; wskazany z imienia człowiek podejmuje każdą decyzję w procesie — dalej, wstrzymaj, odrzuć. Nie ma ustawienia, poziomu planu ani progu, który by to zmieniał.

Jest to egzekwowane w bazie danych, a nie w dokumencie polityki: tabele wyników i decyzji można zapisywać wyłącznie kontrolowanymi ścieżkami, które rejestrują ludzkiego autora. Przycisk pozwalający algorytmowi odrzucić człowieka nie istnieje w naszym kodzie — a nasza publiczna bramka nadzoru ma sprawić, żeby nigdy nie dało się go dodać po cichu.

Nasza AI nie pamięta ludzi — z architektury

Najszybszy sposób, żeby system AI nabrał uprzedzeń, to pozwolić mu uczyć się na własnej historii rekrutacji: jeden kandydat z danej grupy wypada słabiej, a system po cichu obniża ocenę następnemu. AI oceniająca w SkillCort jest bezstanowa z założenia. Każde wywołanie AI — szkic, streszczenie, tura rozmowy, propozycja oceny — zaczyna od zera, widzi tylko materiał przed sobą i niczego po sobie nie zachowuje.

Konkretnie: nasza AI nigdy nie uczy się na wynikach rekrutacji. Decyzje podjęte na Tablicy decyzyjnej nigdy nie wracają do żadnego modelu. Żaden model nie jest dostrajany, ponownie trenowany ani „ulepszany” na danych Twoich kandydatów. Nie ma pamięci o kandydacie działającej między klientami, nie ma wspólnej czarnej listy ani oceny reputacji, która chodziłaby za człowiekiem między pracodawcami — to trwałe granice produktu, a nie pozycje w roadmapie. Kandydat, który aplikuje dwa razy, jest dla naszej AI dwiema niepowiązanymi pracami.

AI widzi pracę, nie osobę

Modele nie mogą stereotypizować na podstawie sygnałów, których nigdy nie dostają. Kiedy AI w SkillCort streszcza albo proponuje ocenę, jej wejściem jest wytwór pracy kandydata — napisana odpowiedź, kod, transkrypcja — razem z rubryką, według której ma oceniać. Nie dostaje imienia i nazwiska kandydata, zdjęcia, danych demograficznych, CV ani żadnego sygnału grupowego jako wejścia do oceny.

Dwa powiązane zakazy są bezwzględne. Nasza AI nigdy nie wnioskuje o osobowości, emocjach ani prawdomówności z twarzy, głosu czy sposobu pisania kandydata — wideo istnieje po to, żeby ludzie mogli przejrzeć wiarygodność, a nie po to, żeby algorytm oceniał charakter. A sygnały wiarygodności (przełączenie karty, wklejenie, flaga z kamery) nigdy nie trafiają do AI po werdykt: lądują na osi czasu, którą przegląda człowiek, i żaden pojedynczy sygnał nie może nikogo automatycznie odrzucić.

Przegląd tożsamości jest z rozmysłu wyłącznie ludzki. Kiedy jest włączony, selfie z sesji, zarejestrowane zdjęcie dokumentu tożsamości i opcjonalne zdjęcie referencyjne dostarczone przez organizację są pokazywane obok siebie upoważnionemu recenzentowi. SkillCort nie oblicza podobieństwa twarzy, nie przeszukuje galerii, nie porównuje kandydatów między sobą ani nie przechowuje biometrycznych wzorców twarzy. Kandydaci są o tym informowani przed sesją, a tożsamość recenzenta, jego decyzja i znacznik czasu są zapisywane bez wpływu na punktację ani ranking w ocenie.

Sprawiedliwość jest strukturą, a nie promptem

Polecenie modelowi, żeby był bezstronny, jest niemal darmowe — i niemal bezwartościowe. Sprawiedliwość na poziomie promptu traktujemy jako uprzejmość, nie jako kontrolę. Liczą się kontrole strukturalne: dowody z próbek pracy zamiast sygnałów zastępczych, punktowanie zakotwiczone w rubryce zamiast swobodnych wrażeń oraz wyniki pracy AI, które przychodzą jako oznaczone szkice wymagające aktywnego potwierdzenia przez człowieka.

A potem mierzymy. Testy raportują zgodność między oceniającymi (ICC) i spójność wewnętrzną, dzięki czemu niestabilne punktowanie jest widoczne, a nie milcząco zakładane. Strony blueprintu monitorują dysproporcje między grupami przy pomocy wskaźnika czterech piątych i wielkości efektu na dowolnym polu, które organizacja zdecyduje się śledzić — i mówimy wprost, że flaga w tym miejscu uruchamia badanie prowadzone przez ludzi, nigdy automatyczną korektę, która sama mogłaby chybić. Tam, gdzie nie mamy dowodów, mówimy to wprost: nie twierdzimy, że mamy trafność prognostyczną, której nie zmierzyliśmy.

Każdy wynik pracy AI zostawia ślad

To nieprzejrzystość zamienia błędy AI w błędy, za które nikt nie odpowiada. Każdy wspierany przez AI wynik pracy w SkillCort niesie proweniencję: który model, która wersja, kiedy, na jakim wejściu — zapisane w rejestrze, który Twoja organizacja może audytować i wyeksportować. Sesje oceny przypinają swoją konfigurację AI na starcie, więc zmiana modelu w trakcie egzaminu nie może po cichu zmienić sposobu traktowania kandydatów w obrębie jednej kohorty.

Ta sama przejrzystość jest zwrócona ku kandydatom. Kiedy kandydaci rozmawiają z naszym rozmówcą AI, jest to ujawnione jako AI — zaprojektowana persona, nigdy udawany człowiek. Poszczególne dostarczenia mogą zaoferować kandydatom wyraźny wybór co do udziału AI, a żaden pojedynczy sygnał wiarygodności nie odrzuca kandydata sam z siebie — oflagowana sesja trafia do człowieka. Kandydaci zgłaszają wątpliwości przez organizację prowadzącą ocenę, do której SkillCort kieruje, ale której nie zastępuje. Klauzule zgody mówią, co jest zbierane, po co i na jak długo; retencja jest ustawieniem po stronie organizacji, a usunięcie jest honorowane na żądanie.

Ludzie zawsze mogą pociągnąć za hamulec

Godna zaufania automatyzacja potrzebuje wyłącznika, który działa w locie. Właściciele organizacji mogą natychmiast wstrzymać powierzchnie AI — osobno dla każdej powierzchni i każdego dostawcy — a produkt schodzi łagodnie do swojego ludzkiego procesu: ocena trwa dalej, punktowanie trwa dalej, decyzje trwają dalej. AI w SkillCort jest warstwą na kompletnym ludzkim procesie, a nie zależnością, bez której proces nie ruszy.

Zmiany w czymkolwiek z tego same podlegają nadzorowi. Te części naszego kodu, które dotykają odpowiedzialności za decyzje przy udziale AI, zgody kandydata, nagrywania albo właśnie tego zestawu obietnic, stoją za bramką zmian wymagającą wyraźnej zgody człowieka — przejrzanej, oznaczonej i zapisanej. W naszym raporcie nadzoru publikujemy to, co zweryfikowane, to, co ograniczone, i to, co się nie powiodło, ponieważ strona zaufania, która zawsze mówi tylko „wszystko jest w porządku”, jest marketingiem, a nie odpowiedzialnością.

Czego nie zbudujemy

Granice są prawdziwe tylko wtedy, gdy przetrwają zachęty. Oto nasze — niezmienione od pierwszej linijki kodu — i to one czynią resztę tej strony wiarygodną:

• Żadnych decyzji rekrutacyjnych podejmowanych przez AI — za każdy wynik i każde rozstrzygnięcie odpowiada wskazana z imienia osoba
• Żadnego uczenia się na wynikach rekrutacji — decyzje nigdy nie trenują ani nie sterują naszymi modelami
• Żadnej pamięci o kandydacie między klientami, wspólnych czarnych list ani przenośnych ocen reputacji
• Żadnego wykrywania osobowości, emocji ani kłamstwa z twarzy, głosu czy uderzeń w klawisze
• Żadnej ukrytej AI — kandydaci zawsze wiedzą, kiedy rozmawiają z maszyną
• Żadnych cichych zmian — zmiany w kodzie nadzoru nad AI wymagają przejrzanej zgody człowieka

Zakład, który podejmujemy

Branża zakłada, że bardziej autonomiczna AI potani rekrutację. Nasz zakład jest inny: prawdziwa wartość AI w rekrutacji polega na ulepszaniu ludzkiego osądu — szybszym dojściu do dowodów, trudniejszym uleganiu uprzedzeniom, łatwiejszej obronie. To znaczy godzić się na tarcie, którego wersja autonomiczna unika: człowiek potwierdza każdy wynik, proweniencja jest zapisywana nawet wtedy, gdy nikt o nią nie pyta, a niektóre funkcje są trwale wykluczone.

Uważamy, że ta zamiana jest nie tylko bezpieczniejsza, ale i trafniejsza — decyzja, którą ktoś potrafi wyjaśnić, bywa lepszą decyzją. Jeśli zawodowo oceniasz ludzi, zasługujesz na narzędzia zbudowane na tym założeniu. Ta strona jest naszym stałym zobowiązaniem, że będziemy je tak budować.