By Daniel Whitmore, MSc in Industrial and Organizational Psychology
Qısaca
İşə qəbulda süni intellekt qərar dəstəyi kimi işləməlidir: o, tapşırıqların və qiymətləndirmə matrislərinin qaralamasını hazırlaya, cavabları və müsahibə transkriptlərini xülasə edə və meyar səviyyəsində ballar təklif edə bilər — lakin hər balı adı çəkilən bir şəxs təsdiqləyir ya da ləğv edir və hər qərar onu izah edə bilən bir insana aiddir. Süni intellekt dəstəyi ilə yaradılan hər nəticə öz mənşəyini (hansı model, hansı versiya) daşımalıdır ki, süni intellektin qərardakı rolu sonradan da audit oluna bilsin.
«Namizədi süni intellekt seçdi» bir cümlədə iki uğursuzluqdur
Birinci uğursuzluq hesabatlılıqdır. İşə qəbul qərarı bir insanın dolanışığına təsir edir və kimsə onun sahibi ola bilməlidir — onu namizədə izah etmək, maraqlı tərəfə qarşı müdafiə etmək və mübahisələndirildikdə ona cavab vermək üçün. «Model onu daha aşağı balladı» izahat deyil; bu, məsuliyyətdən imtinadır. Rəddin arxasında adı çəkilən bir insan dayanmayanda təşkilat qərarı avtomatlaşdırmış olmur. O, qərarı sahibsiz qoyur.
İkinci uğursuzluq keyfiyyətdir və ondan daha az danışılır. Dəstək namizədinin qəzəbli müştəriyə cavabını oxuyan model strukturu və tonu bacarıqla qiymətləndirə bilər, amma o bilmir ki, komandanız bu rübdə geri qaytarma eskalasiyalarında boğulur, bu rol ən yaxşı gərginlik azaldanınızın yerini doldurur və işə qəbul meneceri yazını öyrədə bilər, mühakiməni yox. Qərar üçün əhəmiyyətli kontekst insanlarda yaşayır. Tək qərar verən model panelin malik olduğundan az məlumatla qərar verir.
Deməli, məşhur çərçivə — süni intellekt qərarına vintlənmiş təhlükəsizlik əyləci kimi insan nəzarəti — məsələni tərsinə qoyur. İnsan süni intellektin qərarını nəzərdən keçirmir; süni intellekt insanın qərarını hazırlayır. Bu tərsinə çevrilmə praktikada da əhəmiyyət daşıyır. Maşının nəticəsini formal olaraq möhürləyən nəzərdən keçirən maşının kor nöqtələrinə doğru sürüşür; qərarın sahibi olan qiymətləndirici isə maşından daha az düşünmək üçün deyil, daha çox görmək üçün istifadə edir.
Yaxşı süni intellekt köməyi əslində necə görünür
Süni intellekti qərar verən kimi rədd etmək süni intellekti rədd etmək deyil — bu, qiymətləndirmənin gördüyü ən nəzərdən keçirən-dostu texnologiyanı israf etmək olardı. İş nümunəsi qiymətləndirməsi məhz süni intellektin doğrudan da yaxşı bacardığı sübut növünü yaradır: uzun yazılı cavablar, çoxaddımlı tapşırıq nəticələri, soyuqdan oxumaq üçün real vaxt tələb edən bütöv fəaliyyət sessiyaları. Köməkçi kimi istifadə olunduqda o, insan qiymətləndirməsini daha sürətli və daha ardıcıl edir və xidmət etmək üçün mövcud olduğu mühakiməni sıxışdırıb çıxarmır.
Hər xüsusiyyət üçün sınaq eynidir: o, qiymətləndiricinin mühakiməsini hazırlayır, yoxsa onu qabaqlayır? Sınaqdan keçən kömək insana daha yaxşı material verir və nəticəni açıq saxlayır; sınaqdan keçməyən kömək isə insanın rolunu səssizcə maşının rəyinə «hə» ya «yox» deməyə daraldır. Müştəri dəstəyi və ya daxili satış üzrə işə qəbulda sınaqdan keçən kömək belə görünür:
- Xülasələr: namizədin tam bilet növbəsi məşğələsini və ya kəşf zəngi hesabatını qiymətləndiricinin bir kliklə xam nəticə ilə tutuşdura biləcəyi qısa mətnə yığır.
- Sübuta işarələr: cavabın müştərini harada nəzərə aldığını, siyasət qərarının harada verildiyini, etirazın harada həqiqətən cavablandırıldığını və harada yayındırıldığını vurğulayır.
- Qaralama meyar balları: hər meyar üçün qiymətləndirmə matrisinə bağlanmış bir bal təklif edir və onu əsaslandıran parçaları göstərir — bu, başlanğıc nöqtəsidir, heç vaxt hökm deyil.
- Ardıcıllıq işarələri: qiymətləndiricinin balı istinad etdiyi qiymətləndirmə matrisi təsvirindən kəskin ayrılanda bunu görür və kalibrləmə üçün üzə çıxarır.
- Bütövlük siqnalları: sessiya anomaliyalarını mütənasib insan baxışı üçün işarələyir — heç vaxt avtomatik rədd deyil.
| Süni intellekt qaralayır və üzə çıxarır | Adı çəkilən bir insan qərar verir |
|---|---|
| Tapşırıq, sual və qiymətləndirmə matrisi qaralamaları | Rolu əslində nəyin ölçdüyü |
| Uzun cavabların və transkriptlərin xülasələri | Sübutun necə çəkiləndiriləcəyi |
| Meyar səviyyəsində bal təklifləri | Təsdiqlənmiş bal — və hər hansı ləğvetmə |
| Sübuta işarələr və bütövlük işarələri | Namizədin irəliləyib-irəliləməyəcəyi |
Təsdiqlə və ya ləğv et: idarəni insanda saxlayan yoxlama nöqtəsi
Qərar dəstəyini qərarın yuyulmasından ayıran dizayn təfərrüatı açıq yoxlama nöqtəsidir. SkillCort-da süni intellektin qaraladığı hər bal adı çəkilən bir qiymətləndirici onu təsdiqləyənə və ya ləğv edənə qədər gözləmə vəziyyətində qalır — ləğvetmə isə qiymətləndiricinin mühakiməsindən başqa heç nə tələb etmir. Nə əsaslandırma vergisi, nə də maşınla razılaşmamağı səssizcə cəzalandıran sürtünmə. Ləğv etmək qəbul etməkdən çətindirsə, siz əlavə addımları olan bir süni intellekt qərar vericisi qurmusunuz.
Ləğvetmələr də səs-küy deyil, siqnaldır. Qiymətləndiricilər «siyasət daxilində mühakimə» meyarında qaralama balı ardıcıl olaraq ləğv edirsə, bu, qiymətləndirmə matrisi təsvirinin ikimənalı olduğunu və ya tapşırığın yenidən dizayn edilməli olduğunu deyir — səssiz, formal möhürləmə iş axınının heç vaxt üzə çıxarmayacağı bir geribildirim. Yoxlama nöqtəsi idarəni insanda saxlayır və yan təsir olaraq köməyi harada fayda verdiyi, harada vermədiyi barədə dürüst saxlayır.
Buna görə hər təsdiqin bir ad daşımasında israr edirik. «Bir qiymətləndirici onu təsdiqlədi» hesabatlılıqdır; «sistem onu emal etdi» isə deyil. İşə qəbulda qərarvermənin vahidi əsaslandırması olan bir şəxsdir və alət o şəxsi gözdən itirmək əvəzinə görünən etməlidir. Namizəd niyə irəlilədilmədiyini soruşanda cavab kimin qərar verdiyi ilə başlamalıdır — və sübut sənədi bunu deyə bilməlidir.
Mənşə: köməklə yaradılan hər nəticə öz qəbzini daşıyır
Süni intellekt bir qiymətləndirməyə toxunursa, qeyd bunu deməlidir. Namizədin sübut sənədində süni intellekt dəstəyi ilə yaradılan hər nəticə öz mənşəyini daşıyır: onu hansı model yaradıb, hansı versiya, nə vaxt işləyib, ondan nə istənilib və nəticəni kim təsdiqləyib ya da ləğv edib. Uyğunluq bəzəyi kimi deyil — köməklə verilmiş qərarı ümumiyyətlə audit oluna bilən edən şey kimi.
Mənşə əks halda aylar sonra cavabsız qalacaq sualları cavablandırır. Bu xülasə qiymətləndirmə matrisi dəyişməzdən əvvəl, yoxsa sonra yaradılıb? Bu iki namizəd üçün qaralama ballar eyni model versiyasından gəlib ki, başlanğıc nöqtələri müqayisə oluna bilsin? Bu təklifi hansı insan bala çevirib? Qeydiyyat olmadan «süni intellekt dəstəkli» ifadəsi «yoxlanılmaz şəkildə süni intellektin qərar verdiyi» halına düşür. Qeydiyyatla isə auditor, namizəd və ya öz komandanız maşının töhfəsinin harada bitdiyini və insanın mühakiməsinin harada başladığını dəqiq bərpa edə bilər.
Tənzimləmə də eyni xəttə yaxınlaşır
Bu, yalnız bizim fəlsəfəmiz deyil; qanunun istiqamətidir. EU AI Act işə qəbul və məşğulluq qərarlarında istifadə olunan süni intellekt sistemlərini yüksək riskli sayır və qoyduğu öhdəliklər birbaşa insan nəzarətinə, şəffaflığa və qeydlərin saxlanmasına yönəlir — təsdiqlə-ya-ləğv et yoxlama nöqtələri, etiketlənmiş kömək və mənşə jurnalları ilə eyni üçlük. Başqa yerlərdəki tənzimləyicilər də avtomatlaşdırılmış məşğulluq qərarlarını oxşar xətt üzrə diqqətlə araşdırır. Dəqiq öhdəliklər dəyişir; istiqamət isə yox.
İnsan qərarı intizamını indi quran komandalar uyğunluq mərci oynamır — onlar tənzimləyicilərin təsvir etdiyi prosesi qurur, çünki bu, onsuz da düzgün proses idi. Təqdimatı «süni intellekt sizin əvəzinizə sıralayır və rədd edir» olan bir təchizatçı sizə məhz tənzimləmə istiqamətinin əleyhinə getdiyi arxitekturanı satır. Adı çəkilən hesabatlılıqla qərar dəstəyi ehtiyatlı variant deyil. O, davamlı olanıdır.
Mövqeyimiz, sadə dillə
Qiymətləndirmədə süni intellekt insan mühakiməsini daha sürətli, daha ardıcıl və daha yaxşı əsaslandırılmış etməlidir — və onu heç vaxt əvəz etməməlidir. Praktikada bu o deməkdir ki: süni intellekt xülasə edir və sübuta işarə edir; süni intellekt insanların yazdığı qiymətləndirmə matrisinə görə meyar səviyyəsində ballar qaralayır; hər balı adı çəkilən bir şəxs təsdiqləyir ya da ləğv edir; köməklə yaradılan hər nəticə öz modelini, versiyasını və nəzərdən keçirənini qeydə alır; bütövlük siqnalları insan baxışına gedir, heç vaxt avtomatik rəddə yox; və heç bir namizəd işəgötürənlər arasında gizli süni intellekt balı daşımır.
İş nümunəsi əsaslı qiymətləndirmənin tələb etdiyi budur. Namizəddən real işi görməyi — qəzəbli müştəriyə cavab verməyi, satış boru kəmərini işlətməyi — istəməyin bütün mənası ondadır ki, rolu anlayan bir şəxs işi oxuyub qərar versin. O şəxsi aradan götürən hər şey mənanı da aradan götürür. Bal hekayəyə, maşın kənara, qərar isə bir ada: bizim uyğun qurduğumuz standart budur və düşünürük ki, sektor da sonda buna gəlir.
Əsas məqamlar
- «Namizədi süni intellekt seçdi» ifadəsi iki dəfə uğursuzdur: qərarın sahibi yoxdur və qərar insanların malik olduğundan az kontekstlə verilib.
- Yaxşı süni intellekt köməyi konkretdir: xülasələr, sübuta işarələr, qiymətləndirmə matrisinə bağlanmış qaralama ballar və kalibrləmə işarələri — heç vaxt seçim və ya rədd deyil.
- Süni intellektin qaraladığı hər bal adı çəkilən bir qiymətləndiricinin onu təsdiqləməsini ya da ləğv etməsini gözləyir və ləğv etmək qəbul etmək qədər asan olmalıdır.
- Mənşə qeydiyyatı — model, versiya, vaxt möhürü, tapşırıq, nəzərdən keçirən — süni intellekt dəstəkli qiymətləndirməni yoxlanılmaz deyil, audit oluna bilən edən şeydir.
- EU AI Act işə qəbulu yüksək riskli sayır və onun nəzarətə, şəffaflığa və qeydlərə verdiyi önəm insanın qərar verdiyi qiymətləndirmə ilə eyni istiqaməti göstərir.