Süni intellekti necə idarə edirik

Bu səhifə nə üçün var

Süni intellekt artıq işə qəbul hunilərinin çoxunun içindədir və nasazlıq halları daha fərziyyə deyil. Dil modelləri az sübutdan ümumiləşdirir, ona görə kömək etməli olduqları insanlardan daha sürətlə stereotip qura bilirlər. İşə qəbul nəticələrindən öyrənən sistemlər bir erkən rəddi bütöv bir qrupa qarşı davamlı qəlibə çevirə bilər. Köməkçiləri daha şəxsi edən yaddaş funksiyaları eyni zamanda qərəzlərin toplanmasına da imkan verir. Ən çox yayılmış qoruyucu isə — modelə «ədalətli ol» demək — ölçülə bilən şəkildə gözləntini doğrultmur, çünki təlimatlar sistemin optimallaşdırıldığı şeyi üstələmir.

SkillCort-un süni intellekt memarlığını bu nasazlıq hallarının ətrafında deyil, onlara qarşı qurduq. Bu səhifə dizaynı təfərrüatı ilə izah edir: süni intellektimizin nə etdiyini, struktur olaraq nə edə bilmədiyini və hər ikisini necə yoxlaya biləcəyinizi. Bunların heç biri arzu deyil — burada təsvir olunan hər mexanizm məhsulda canlıdır və açıq idarəetmə hesabatımız sübutu izləyir.

Qalan hər şeyin ondan çıxdığı tək qayda

Süni intellekt kömək edir. Qərarı insanlar verir. SkillCort-da süni intellektin nəticəsi həmişə insan mühakiməsinə giriş məlumatıdır, heç vaxt mühakimənin özü deyil. Süni intellekt qiymətləndirmə tapşırıqlarının və rubrikaların qaralamasını hazırlayır, açıqlanmış persona kimi strukturlaşdırılmış müsahibələr aparır, cavabları mətnə çevirib xülasə edir, sitat gətirilən sübutu çıxarır və meyar səviyyəsində ballar təklif edir. Hər balı adı bəlli bir insan qiymətləndirici təsdiqləyir; hər iş axını qərarını — irəlilətmə, saxlama, rədd — adı bəlli bir insan verir. Bunu dəyişən heç bir konfiqurasiya, paket səviyyəsi və ya hədd yoxdur.

Bu, siyasət sənədində deyil, verilənlər bazasında tətbiq olunur: bal və qərar cədvəllərinə yalnız insan aktoru qeyd edən nəzarətli yollarla yazmaq olar. Bir alqoritmə insanı rədd etməyə imkan verən düymə bizim kod bazamızda mövcud deyil — və açıq idarəetmə qapımız onun heç vaxt səssizcə əlavə olunmamasını təmin etmək üçün qurulub.

Süni intellektimizin insanlar barədə yaddaşı yoxdur — memarlığa görə

Bir süni intellekt sisteminin qərəz qazanmasının ən sürətli yolu ona öz işə qəbul tarixçəsindən öyrənməyə icazə verməkdir: bir qrupdan olan bir namizəd zəif nəticə göstərir, sistem növbətisini səssizcə aşağı salır. SkillCort-un qiymətləndirmə süni intellekti dizaynla vəziyyətsizdir. Hər süni intellekt çağırışı — qaralama, xülasə, müsahibə gedişi, təklif olunan bal — sıfırdan başlayır, yalnız qarşısındakı materialı görür və sonra heç nə saxlamır.

Konkret olaraq: süni intellektimiz işə qəbul nəticələrindən heç vaxt öyrənmir. Qərar lövhəsində verilən qərarlar heç vaxt heç bir modelə geri verilmir. Heç bir model sizin namizədlərinizin məlumatı üzərində incə tənzimlənmir, yenidən öyrədilmir və ya «yaxşılaşdırılmır». Müştərilər arası namizəd yaddaşı, ortaq qara siyahı və insanı işəgötürənlər arasında izləyən reputasiya balı yoxdur — bunlar yol xəritəsi maddələri deyil, daimi məhsul sərhədləridir. İki dəfə müraciət edən namizəd bizim süni intellektimiz üçün bir-biri ilə əlaqəsi olmayan iki iş parçasıdır.

Süni intellekt işi görür, insanı yox

Modellər heç vaxt almadıqları siqnallar üzərində stereotip qura bilməz. SkillCort-un süni intellekti xülasə edəndə və ya bal təklif edəndə onun girişi namizədin iş məhsuludur — yazılı cavab, kod, transkript — ballandırılacağı rubrika ilə birlikdə. Ona namizədin adı, fotoşəkli, demoqrafik məlumatı, CV-si və ya hər hansı qrup siqnalı qiymətləndirmə girişi kimi verilmir.

İki bağlı qadağa mütləqdir. Süni intellektimiz namizədin üzündən, səsindən və ya yazma tərzindən şəxsiyyət, emosiya və ya doğruluq nəticəsi çıxarmır — video alqoritmik xarakter mühakiməsi üçün deyil, insanların apardığı bütövlük baxışı üçün mövcuddur. Bütövlük siqnalları (tab dəyişməsi, yapışdırma, kamera işarəsi) isə hökm üçün heç vaxt süni intellektə verilmir: onlar bir şəxsin nəzərdən keçirdiyi zaman xəttinə düşür və heç bir tək siqnal kimisə avtomatik rədd edə bilmir.

Kimlik baxışı qəsdən yalnız insan tərəfindən aparılır. Aktiv edildikdə sessiya selfisi, çəkilmiş şəxsiyyət sənədi fotosu və təşkilatın verdiyi könüllü istinad fotosu səlahiyyətli bir nəzərdən keçirənə yanaşı göstərilir. SkillCort üz oxşarlığını hesablamır, qalereyalarda axtarış aparmır, namizədləri müqayisə etmir və biometrik üz şablonları saxlamır. Namizədlərə sessiyadan əvvəl bildirilir və nəzərdən keçirənin kimliyi, qərarı və vaxt möhürü qiymətləndirmə ballandırmasına və ya sıralamasına təsir etmədən qeyd olunur.

Ədalətlilik bir strukturdur, bir təlimat deyil

Modelə qərəzsiz olmağı tapşırmaq demək olar ki, pulsuzdur — və demək olar ki, dəyərsizdir. Təlimat səviyyəsindəki ədalətliliyi nəzarət vasitəsi deyil, nəzakət sayırıq. Əhəmiyyət daşıyan nəzarət vasitələri strukturaldır: dolayı siqnallar əvəzinə iş nümunəsi sübutu, sərbəst təəssüratlar əvəzinə rubrikaya bağlanmış ballandırma və insanın fəal şəkildə təsdiqləməli olduğu, etiketlənmiş qaralama kimi gələn süni intellekt nəticələri.

Sonra isə ölçürük. Qiymətləndirmələr qiymətləndiricilər arası uzlaşmanı (ICC) və daxili tutarlılığı bildirir, beləliklə etibarsız ballandırma ehtimal edilmək əvəzinə görünür. Plan səhifələri təşkilatın izləməyi seçdiyi istənilən sahə üzrə qruplar arası fərqi beşdə dörd təsir nisbəti və effekt ölçüləri ilə izləyir — və biz açıq deyirik ki, oradakı bir işarə insanlar tərəfindən araşdırmanı başladır, özü yanıla biləcək avtomatik düzəlişi deyil. Sübutumuz olmayan yerdə bunu deyirik: ölçmədiyimiz proqnozlaşdırıcı etibarlılığı iddia etmirik.

Hər süni intellekt nəticəsinin sənəd izi var

Süni intellektin səhvlərini məsuliyyətsiz səhvlərə çevirən şey qapalılıqdır. SkillCort-da süni intellektin köməyi ilə yaranan hər nəticə mənşə qeydi daşıyır: hansı model, hansı versiya, nə vaxt, hansı giriş üzərində — təşkilatınızın audit edə və ixrac edə biləcəyi bir reyestrdə qeyd olunmuş halda. Qiymətləndirmə sessiyaları süni intellekt konfiqurasiyasını başlanğıcda sabitləyir, beləliklə imtahanın ortasında model dəyişikliyi bir kohort daxilində namizədlərə münasibəti səssizcə dəyişə bilmir.

Eyni şəffaflıq namizədlərə də üz tutur. Namizədlər bizim süni intellekt müsahibimizlə əlaqə quranda bu, süni intellekt olaraq açıqlanır — dizayn edilmiş bir persona, heç vaxt saxta insan deyil. Keçirilmələr namizədlərə süni intellektin iştirakı barədə açıq seçim təklif edə bilər və heç bir tək bütövlük siqnalı namizədi öz-özünə rədd etmir — işarələnmiş sessiya bir şəxsə çatır. Namizədlər narahatlıqlarını qiymətləndirməni aparan təşkilat vasitəsilə bildirirlər; SkillCort ora yönləndirir, onu əvəz etmir. Razılıq bildirişləri nəyin, nə üçün və nə qədər müddətə toplandığını deyir; saxlama müddəti təşkilatın təyin etdiyi bir parametrdir və silinmə tələb olunduqda yerinə yetirilir.

İnsanlar hər zaman əl əyləcini çəkə bilər

Etibarlı avtomatlaşdırmanın uçuş zamanı işləyən bir söndürmə düyməsi olmalıdır. Təşkilat sahibləri süni intellekt səthlərini dərhal dayandıra bilər — səth üzrə, provayder üzrə — və məhsul zərif şəkildə öz insan iş axınına enir: qiymətləndirmə davam edir, ballandırma davam edir, qərarlar davam edir. SkillCort-da süni intellekt tam bir insan prosesinin üzərindəki qatdır, prosesin onsuz işləyə bilmədiyi asılılıq deyil.

Bunların hər hansı birində dəyişiklik özü də idarə olunur. Kod bazamızın süni intellektin qərar sahibliyinə, namizəd razılığına, qeydəalmaya və ya elə bu vədlər toplusuna toxunan hissələri açıq insan təsdiqi tələb edən bir dəyişiklik qapısının arxasındadır — nəzərdən keçirilmiş, etiketlənmiş və qeydə alınmış. İdarəetmə hesabatımızda nəyin yoxlanıldığını, nəyin məhdud olduğunu və nəyin uğursuz olduğunu dərc edirik, çünki yalnız «hər şey qaydasındadır» deyən etimad səhifəsi hesabatlılıq deyil, marketinqdir.

Nə qurmayacağıq

Sərhədlər yalnız stimullardan sağ çıxdıqda realdır. Bunlar bizimkilərdir, ilk kod sətrindən bəri dəyişməyib və bu səhifənin qalanını inandırıcı edən də elə onlardır:

• Süni intellektin verdiyi işə qəbul qərarları yoxdur — hər bala və hər qərara adı bəlli bir şəxs sahiblik edir
• İşə qəbul nəticələrindən öyrənmə yoxdur — qərarlar heç vaxt modellərimizi öyrətmir və istiqamətləndirmir
• Müştərilər arası namizəd yaddaşı, ortaq qara siyahılar və ya daşınan reputasiya balları yoxdur
• Üzdən, səsdən və ya klaviatura vuruşlarından şəxsiyyət, emosiya və ya yalan aşkarlanması yoxdur
• Gizli süni intellekt yoxdur — namizədlər maşınla danışdıqlarını həmişə bilirlər
• Səssiz dəyişikliklər yoxdur — süni intellekt idarəetmə kodundakı dəyişikliklər nəzərdən keçirilmiş insan təsdiqi tələb edir

Etdiyimiz mərc

Sektorun mərci budur ki, daha müstəqil süni intellekt işə qəbulu ucuzlaşdıracaq. Bizim mərcimiz fərqlidir: süni intellektin işə qəbuldakı əsl dəyəri insan mühakiməsini daha yaxşı etməkdir — sübuta daha tez çatan, qərəzə daha davamlı, müdafiəsi daha asan. Bu isə müstəqil variantın qaçdığı sürtünməni qəbul etmək deməkdir: hər balı bir insan təsdiqləyir, heç kim soruşmasa da mənşə qeyd olunur və bəzi funksiyalar daimi olaraq gündəmdən çıxarılır.

Düşünürük ki, bu mübadilə yalnız daha təhlükəsiz deyil, həm də daha dəqiqdir — kiminsə izah edə bildiyi qərar adətən daha yaxşı qərar olur. İnsanları qiymətləndirməklə məşğulsunuzsa, bu ilkin şərt üzərində qurulmuş alətlərə layiqsiniz. Bu səhifə həmin alətləri belə qurmağa davam edəcəyimizə dair davamlı öhdəliyimizdir.