Neler kaydediliyor
Yapay zekâ değerlendirmeye yardım ettiğinde — ölçüt düzeyinde kanıt çıkarımı, bir taslak puan önerisi, bir yazıya döküm, bir döküm değerlendirmesi ya da bir aday özeti — çıktı model ve sürüm kökeniyle kaydedilir. Belirli bir öneriyi hangi modelin, hangi sürümde ürettiğini her zaman bilirsiniz; böylece bir çıktı, aradan uzun zaman geçse bile kaynağına kadar izlenebilir. Yapay zekâyla taslanmış banka maddeleri farklı bir güvence izler: tam da bir kişi onları incelemeden kimseyi puanlayamasınlar diye taslak olarak işaretlenirler.
Köken nerede görünür
Köken en çok önemli olduğu yerde görünür. Döküm değerlendirmeleri ve aday özetleri onları üreten modeli doğrudan arayüzde gösterir; böylece bir değerlendirici neyden çalıştığını görür. Destekli her değerlendirme çıktısı ayrıca platformun yapay zekâ üretim kaydında model, sürüm ve kullanımla birlikte sunucu tarafında kaydedilir.
Kaydın kendisi insan kalır: kendi kendine yeten karar dosyası olan denetim paketi, yapay zekâ politikasını belgeler ve her puanı adı belli değerlendiricisi ve zaman damgasıyla gösterir; destekli her adımın model ve sürüm kaydı ise platformun yapay zekâ üretim kaydında tutulur.
Onayla-ya-da-geçersiz-kıl kuralı
Hiçbir yapay zekâ çıktısı karar kaydına kendi başına girmez. Her yapay zekâ önerisini adı belli bir kişi onaylar ya da geçersiz kılar: yapay zekânın tasladığı bir puan, ancak bir değerlendirici onu kendi adı altında kabul ettiğinde bir puan olur ve yapay zekâyla üretilen maddeler kullanmadan önce incelediğiniz taslaklardır. Her durumda kayıt, karar verici olarak bir modeli değil bir kişiyi gösterir.
Bu savunulabilirlik için neden önemli
Bir aday bir sonuca itiraz ettiğinde ya da bir müşteri sürecinizi denetlediğinde "yapay zekâ önerdi" bir yanıt değildir — ama "bu adı belli değerlendirici bu puanı, bu tarihte, bu modelin bu sürümünün desteğiyle onayladı" bir yanıttır. Köken kaydı, yapay zekâ desteğini bir yükümlülükten kararın belgelenmiş ve incelenebilir bir adımına çevirir.
Ayrıca yapay zekânın rolünü sınırlı ve denetlenebilir kılar: destekli her değerlendirme çıktısı model ve sürümüyle kaydedildiği ve adı belli bir kişi tarafından onaylandığı için, bir adaya, bir müşteriye ya da bir denetçiye yapay zekânın kararı hiç vermeden onu desteklediğini gösterebilirsiniz.
At a glance
- Değerlendirmede kullanılan her destekli çıktı için yapay zekâ modeli ve sürümü kaydedilir — kanıt çıkarımı, puan önerileri, yazıya dökümler ve özetler.
- Döküm değerlendirmeleri ve aday özetleri modeli arayüzde gösterir; kaydın tamamı sunucu tarafında durur.
- Her yapay zekâ önerisi, sayılmadan önce adı belli bir kişi tarafından onaylanır ya da geçersiz kılınır.
- Kayıttaki her puan, yapay zekâ destekli olsun olmasın, adı belli bir değerlendirici ve bir zaman damgası taşır.
- İz, kararların sonradan açıklanabilmesi ve savunulabilmesi için vardır.