حوكمة الذكاء الاصطناعي

دور الإنسان جزء من تصميم نظام الذكاء الاصطناعي.

عبارة «Human in the Loop» سهلة. الأصعب والأهم هو تحديد أين يتدخل الإنسان وما المسؤولية التي تبقى لديه.

يتكرر مصطلح «Human in the Loop» كثيراً عند الحديث عن الاستخدام المسؤول للذكاء الاصطناعي.

لكن وجود زر «موافقة» لا يعني تلقائياً أن هناك إشرافاً بشرياً حقيقياً.

دور الإنسان نفسه يحتاج إلى تصميم.

ليس كل شيء يحتاج إلى موافقة

إذا كان الموظف مطالباً بالموافقة على كل خطوة، فقد لا توفر الأتمتة وقتاً يذكر.

وفي المقابل، إذا لم يراجع أحد أي شيء، فقد يكون النظام حصل على صلاحيات أكبر مما ينبغي.

المستوى المناسب يعتمد على تأثير القرار.

تزداد أهمية المراجعة البشرية عندما:

أما الأعمال الروتينية منخفضة التأثير، فقد يمكن تنفيذها تلقائياً.

الإشراف الجيد يساعد الإنسان على اتخاذ قرار أفضل، وليس فقط الضغط على زر.

عرض إجابة مولدة من AI مع زرين فقط، «موافقة» و«رفض»، ليس دائماً كافياً.

قد يحتاج الشخص إلى معرفة:

الإشراف الجيد يساعد الإنسان على اتخاذ قرار أفضل، وليس فقط الضغط على زر.

يمكن للـ AI تنفيذ عمل.

لكن المسؤولية داخل المؤسسة تبقى بشرية.

يجب أن يكون واضحاً من المسؤول عن:

وتزداد أهمية ذلك عندما ينتقل AI من كتابة المحتوى إلى تنفيذ إجراءات حقيقية.

لا تنتظر ظهور حالة غير معتادة لتقرر ماذا يحدث.

حدد مسبقاً:

التصعيد جزء من التصميم نفسه.

وجود الإنسان لا يهدف إلى جعل الذكاء الاصطناعي أبطأ.

الهدف هو وضع الحكم والمسؤولية البشرية في الأماكن التي تحتاج إليهما فعلاً.