الإشراف البشري

الإشراف البشري يعني ببساطة أن الذكاء الاصطناعي لا يعمل وحده من البداية إلى النهاية. الإنسان يقف في نقطة أو أكثر من مراحل العمل: يراجع ما أنتجه النظام، يصحّح أخطاءه، يوافق على قراره أو يرفضه. الفكرة أن الآلة تقترح والإنسان يقرر.

يظهر هذا الأسلوب في ثلاث مراحل رئيسية:

• قبل التشغيل: بشر يجهّزون بيانات التدريب (الأمثلة التي يتعلم منها النظام) ويصنّفونها ويصححونها.
• أثناء التطوير: بشر يقيّمون إجابات النموذج ويرتّبونها من الأفضل إلى الأسوأ، وهو ما يُعرف بالتعلم من التغذية الراجعة البشرية.
• أثناء الاستخدام: موظف أو خبير يراجع مخرجات النظام قبل نشرها أو تنفيذها، خاصة في القرارات الحساسة.

لماذا نحتاج هذا الإشراف؟ لأن النماذج اللغوية الكبيرة قد تنتج معلومات خاطئة بثقة تامة، وهي ظاهرة تُعرف بالهلوسة. كما أن بعض القرارات، مثل تشخيص طبي أو رفض طلب قرض، لا يجوز أخلاقيًا أو قانونيًا تركها للآلة وحدها. حتى الأنظمة الحديثة التي تنفّذ مهامًا متعددة تلقائيًا (الوكلاء الأذكياء) تُصمَّم غالبًا بحيث تتوقف وتطلب موافقة الإنسان عند الخطوات المهمة.

ستقابل هذا المفهوم في حياتك اليومية أكثر مما تتخيل: حين يقترح ChatGPT نص بريد إلكتروني وتعدّله قبل الإرسال، أو حين يولّد نظام ردودًا على عملاء متجرك وتراجعها قبل النشر، أنت تمارس الإشراف البشري بنفسك.