Yapay zekâyı nasıl ele alıyoruz

Bu sayfa neden var

Yapay zekâ artık çoğu işe alım hunisinin içinde ve arıza biçimleri artık varsayımsal değil. Dil modelleri ince kanıttan genelleme yapar; bu yüzden yardımcı olmaları beklenen insanlardan daha hızlı klişe üretebilirler. İşe alım sonuçlarından öğrenen sistemler, erken bir reddi bütün bir gruba karşı kalıcı bir örüntüye çevirebilir. Asistanları daha kişisel kılan hafıza özellikleri, önyargıların birikmesine de izin verir. Ve en yaygın önlem — bir modele "adil ol" demek — ölçülebilir biçimde yetersiz kalır, çünkü talimatlar sistemin optimize edildiği şeyi geçersiz kılmaz.

SkillCort'un yapay zekâ mimarisini bu arıza biçimlerinin etrafından dolaşarak değil, onlara karşı kurduk. Bu sayfa tasarımı ayrıntısıyla anlatıyor: yapay zekâmız ne yapıyor, yapısal olarak neyi yapamıyor ve ikisini de nasıl doğrulayabilirsiniz. Hiçbiri temenni değil — burada anlatılan her mekanizma üründe canlı ve kamuya açık yönetişim raporumuz kanıtı takip ediyor.

Geri kalan her şeyin türediği tek kural

Yapay zekâ destekler. Kararı insan verir. SkillCort'ta bir yapay zekâ çıktısı her zaman bir insan muhakemesine girdidir, asla muhakemenin kendisi değildir. Yapay zekâ değerlendirme görevleri ve rubrikler taslaklar, açıkça bildirilmiş bir persona olarak yapılandırılmış mülakatlar yürütür, yanıtları yazıya döker ve özetler, alıntılanmış kanıt çıkarır ve kriter bazında puan önerir. Adı belli bir insan değerlendirici her puanı onaylar; adı belli bir insan her iş akışı kararını verir — ilerlet, beklet, ele. Bunu değiştiren hiçbir yapılandırma, paket kademesi veya eşik yoktur.

Bu bir politika belgesinde değil, veritabanında uygulanır: puan ve karar tabloları yalnızca insan aktörü kayda geçiren denetimli yollardan yazılabilir. Bir algoritmanın bir insanı elemesine izin veren düğme kod tabanımızda mevcut değildir — ve kamuya açık yönetişim kapımız, o düğmenin sessizce eklenmesini önlemek için tasarlanmıştır.

Yapay zekâmızın insanlara dair hafızası yok — mimari gereği

Bir yapay zekâ sisteminin önyargı geliştirmesinin en hızlı yolu, kendi işe alım geçmişinden öğrenmesine izin vermektir: bir gruptan bir aday düşük performans gösterir, sistem sessizce bir sonrakini aşağı çeker. SkillCort'un değerlendirme yapay zekâsı tasarımı gereği durumsuzdur. Her yapay zekâ çağrısı — bir taslak, bir özet, bir mülakat turu, önerilen bir puan — sıfırdan başlar, yalnızca önündeki malzemeyi görür ve sonrasında hiçbir şey saklamaz.

Somut olarak: yapay zekâmız işe alım sonuçlarından asla öğrenmez. Karar Panosu'nda verilen kararlar hiçbir modele geri beslenmez. Hiçbir model, adaylarınızın verisi üzerinde ince ayar yapılmaz, yeniden eğitilmez veya 'iyileştirilmez'. Müşteriler arası aday hafızası, ortak kara liste ve bir kişiyi işverenler arasında takip eden itibar skoru yoktur — bunlar kalıcı ürün sınırlarıdır, yol haritası maddeleri değil. İki kez başvuran bir aday, yapay zekâmız için birbiriyle ilgisiz iki iştir.

Yapay zekâ işi görür, kişiyi değil

Modeller, hiç almadıkları sinyaller üzerinden klişe üretemez. SkillCort'un yapay zekâsı özetlerken ya da puan önerirken girdisi adayın iş ürünüdür — yazılı yanıt, kod, mülakat dökümü — ve karşısında puanlayacağı rubrik. Adayın adı, fotoğrafı, demografisi, özgeçmişi veya herhangi bir grup sinyali değerlendirme girdisi olarak verilmez.

İlgili iki yasak mutlaktır. Yapay zekâmız bir adayın yüzünden, sesinden veya yazım biçiminden kişilik, duygu ya da doğruluk çıkarımı ASLA yapmaz — video, algoritmik karakter yargısı için değil, insanların bütünlük incelemesi içindir. Ve bütünlük sinyalleri (sekme değişimi, yapıştırma, kamera işareti) hüküm için yapay zekâya ASLA verilmez: bir kişinin incelediği bir zaman çizelgesine düşerler ve hiçbir tekil sinyal kimseyi otomatik eleyemez.

Kimlik incelemesi bilinçli olarak yalnızca insana aittir. Etkinleştirildiğinde oturum özçekimi, çekilen kimlik fotoğrafı ve kurumun sağladığı isteğe bağlı referans fotoğrafı yetkili bir inceleyiciye yan yana gösterilir. SkillCort yüz benzerliği HESAPLAMAZ, galerilerde arama yapmaz, adayları karşılaştırmaz ve biyometrik yüz şablonu saklamaz. Adaylara oturumdan önce bildirilir; inceleyicinin kimliği, kararı ve zaman damgası, değerlendirme puanlamasını veya sıralamayı etkilemeden kayda geçer.

Adalet bir yapıdır, bir istem değil

Bir modele önyargısız olmasını söylemek neredeyse bedavadır — ve neredeyse değersizdir. İstem düzeyindeki adaleti bir nezaket sayarız, bir denetim değil. Önemli olan denetimler yapısaldır: vekil sinyaller yerine iş örneği kanıtı, uçları açık izlenimler yerine rubriğe bağlı puanlama ve bir insanın etkin biçimde onaylaması gereken, etiketlenmiş taslaklar olarak gelen yapay zekâ çıktıları.

Sonra ölçeriz. Değerlendirmeler değerlendiriciler arası uyumu (ICC) ve iç tutarlılığı raporlar; böylece güvenilmez puanlama varsayımla geçiştirilmek yerine görünür olur. Blueprint sayfaları, kurumun izlemeyi seçtiği herhangi bir alan üzerinde grup eşitsizliğini beşte dört etki oranı ve etki büyüklükleriyle izler — ve orada beliren bir işaretin, kendisi de hedefi şaşırabilecek otomatik bir düzeltmeyi değil, insanlar tarafından yürütülecek bir incelemeyi tetiklediğini açıkça söyleriz. Kanıtımızın olmadığı yerde bunu söyleriz: ölçmediğimiz bir yordama geçerliliği iddia etmeyiz.

Her yapay zekâ çıktısının bir kaydı var

Yapay zekâ hatalarını hesabı sorulamaz hatalara çeviren şey opaklıktır. SkillCort'taki yapay zekâ destekli her çıktı kaynak bilgisi taşır: hangi model, hangi sürüm, ne zaman, hangi girdi üzerinde — kurumunuzun denetleyebileceği ve dışa aktarabileceği bir deftere işlenir. Değerlendirme oturumları yapay zekâ yapılandırmasını başlangıçta sabitler; böylece sınav ortasında bir model değişikliği, bir kohort içindeki adaylara nasıl davranıldığını sessizce değiştiremez.

Aynı şeffaflık adaya da bakar. Adaylar yapay zekâ mülakatçımızla etkileşime girdiğinde bu yapay zekâ olarak açıkça bildirilir — tasarlanmış bir persona, asla sahte bir insan değil. Teslimatlar adaylara yapay zekâya katılım konusunda açık bir seçim sunabilir ve tek bir bütünlük sinyali bir adayı kendiliğinden elemez — işaretlenen bir oturum bir insana ulaşır. Adaylar endişelerini değerlendirmeyi yürüten kuruluş üzerinden iletir; SkillCort o kuruluşa yönlendirir, onun yerini almaz. Bildirimler neyin, neden ve ne kadar süreyle toplandığını söyler; saklama süresi kurumun belirlediği bir denetimdir ve talep hâlinde silme yerine getirilir.

İnsanlar her an el frenini çekebilir

Güvenilir otomasyonun uçuş sırasında çalışan bir kapatma anahtarına ihtiyacı vardır. Kurum sahipleri yapay zekâ yüzeylerini anında duraklatabilir — yüzey bazında, sağlayıcı bazında — ve ürün, insan iş akışına zarif biçimde geriler: değerlendirme sürer, puanlama sürer, kararlar sürer. SkillCort'ta yapay zekâ, eksiksiz bir insan sürecinin üzerindeki bir katmandır; sürecin onsuz yürüyemeyeceği bir bağımlılık değil.

Bütün bunlardaki değişiklikler de kendileri yönetilir. Kod tabanımızın yapay zekâ karar sahipliğine, aday bildirimlerine, kayıtlara veya tam olarak bu söz kümesine dokunan parçaları, açık insan onayı gerektiren bir değişiklik kapısının arkasındadır — incelenir, etiketlenir ve kayda geçer. Yönetişim raporumuzda neyin doğrulandığını, neyin sınırlı olduğunu ve neyin başarısız olduğunu yayımlarız; çünkü yalnızca 'her şey yolunda' diyen bir güven sayfası pazarlamadır, hesap verebilirlik değil.

İnşa etmeyeceklerimiz

Sınırlar ancak teşviklere dayanabiliyorsa gerçektir. Bunlar bizimkiler; ilk kod satırından beri değişmediler ve bu sayfanın geri kalanını inandırıcı kılan şey onlar:

• Yapay zekânın verdiği işe alım kararı yok — her puanın ve her çağrının sahibi adı belli bir insandır
• İşe alım sonuçlarından öğrenme yok — kararlar modellerimizi asla eğitmez ya da yönlendirmez
• Müşteriler arası aday hafızası, ortak kara liste veya taşınabilir itibar skoru yok
• Yüzden, sesten veya tuş vuruşlarından kişilik, duygu ya da yalan tespiti yok
• Gizli yapay zekâ yok — adaylar bir makineyle konuştuklarını her zaman bilir
• Sessiz değişiklik yok — yapay zekâ yönetişim kodundaki değişiklikler incelenmiş insan onayı ister

Girdiğimiz bahis

Sektörün bahsi, daha özerk yapay zekânın işe alımı ucuzlatacağı. Bizim bahsimiz farklı: yapay zekânın işe alımdaki gerçek değeri, insan muhakemesini daha iyi yapması — kanıta daha hızlı ulaşan, önyargıya daha dirençli, savunması daha kolay. Bu, özerk sürümün kaçındığı sürtünmeyi kabul etmek demek: her puanı bir insan onaylar, kimse sormasa bile kaynak kaydı tutulur ve bazı özellikler kalıcı olarak masada değildir.

Bu takasın yalnızca daha güvenli değil, daha isabetli olduğunu düşünüyoruz — birinin açıklayabildiği bir karar, genellikle daha iyi bir karardır. İnsanları değerlendirerek geçiniyorsanız, bu öncül üzerine kurulmuş araçları hak ediyorsunuz. Bu sayfa, onları böyle kurmaya devam edeceğimize dair açık taahhüdümüzdür.