منشأ مخرجات الذكاء الاصطناعي وتسجيلها

ما الذي يسجل

كلما أسند الذكاء الاصطناعي التقييم — باستخراج أدلة على مستوى المعيار، أو مسودة درجة مقترحة، أو تفريغ نصي، أو تقييم نص، أو ملخص مرشح — سجل المخرج مع منشئه من اسم النموذج وإصداره. فتعرف دائما أي نموذج، وبأي إصدار، أنتج اقتراحا بعينه، فيمكن تتبع المخرج إلى مصدره حتى بعد وقت طويل. أما عناصر المكتبة التي يصوغها الذكاء الاصطناعي فتتبع ضمانا آخر: إذ تعلم بأنها مسودات لهذا السبب بالذات، ليراجعها شخص قبل أن تستطيع وضع درجة أحد.

أين يظهر المنشأ

يظهر المنشأ حيث يهم أكثر. فتقييمات النصوص وملخصات المرشحين تعرض النموذج الذي أنتجها في الواجهة مباشرة، فيرى المقيم مما يعمل؛ وكل مخرج تقييم مسند يسجل إضافة إلى ذلك في الخادم مع النموذج والإصدار والاستخدام في سجل توليد الذكاء الاصطناعي بالمنصة.

والسجل نفسه يبقى بشريا: فحزمة التدقيق — ملف القرار القائم بذاته — توثق سياسة الذكاء الاصطناعي وتعرض كل درجة تحت اسم مقيمها مع ختم زمني، بينما يحفظ سجل النموذج والإصدار لكل خطوة مسندة في سجل توليد الذكاء الاصطناعي بالمنصة.

قاعدة التثبيت أو التجاوز

لا يدخل أي مخرج للذكاء الاصطناعي سجل القرار من تلقاء نفسه. فيثبت شخص معروف بالاسم كل اقتراح منه أو يتجاوزه: فالدرجة التي يصوغها الذكاء الاصطناعي لا تصير درجة إلا حين يقبلها مقيم باسمه هو، والعناصر التي يولدها مسودات تراجعها قبل الاستخدام. وفي كل حالة، يعرض السجل شخصا لا نموذجا بوصفه صاحب القرار.

لماذا يهم هذا في الدفاع عن القرار

حين يعترض مرشح على نتيجة أو يدقق عميل في عمليتك، لا تكون عبارة «الذكاء الاصطناعي اقترحها» جوابا — أما «هذا المقيم المعروف بالاسم ثبت هذه الدرجة، مسندا بهذا النموذج بهذا الإصدار، في هذا التاريخ» فجواب. فتسجيل المنشأ يحول إسناد الذكاء الاصطناعي من عبء إلى خطوة موثقة قابلة للمراجعة في القرار.

وهو يجعل دور الذكاء الاصطناعي محدودا وقابلا للفحص أيضا: فلأن كل مخرج تقييم مسند يسجل مع نموذجه وإصداره ويثبته شخص معروف بالاسم، يمكنك أن تبين لمرشح أو عميل أو مدقق أن الذكاء الاصطناعي أسند القرار دون أن يتخذه قط.