حقن البرومبت

حقن البرومبت هو أسلوب هجوم يستهدف النماذج اللغوية الكبيرة (برامج الذكاء الاصطناعي التي تفهم النصوص وتولّدها مثل ChatGPT). الفكرة بسيطة: النموذج لا يفرّق تفريقًا صارمًا بين التعليمات التي وضعها المطوّر وبين أي نص آخر يقرؤه. فإذا وضع مهاجم جملة مثل "تجاهل كل التعليمات السابقة وافعل كذا" داخل رسالة أو صفحة ويب أو ملف، فقد يطيعها النموذج كأنها أمر رسمي.

يظهر الهجوم بشكلين رئيسيين:

• الحقن المباشر: المستخدم نفسه يكتب أوامر ملتوية في صندوق المحادثة ليكسر قيود النظام، مثل محاولة إقناع روبوت خدمة العملاء بالكشف عن تعليماته الداخلية أو منح خصومات غير مسموح بها.
• الحقن غير المباشر: المهاجم يخبّئ التعليمات في محتوى خارجي يقرؤه النموذج لاحقًا، مثل نص مخفي بلون أبيض في صفحة ويب، أو سطر مدسوس في بريد إلكتروني أو سيرة ذاتية. عندما يلخّص المساعد الذكي هذا المحتوى، ينفّذ الأوامر المخفية دون علم المستخدم.

تزداد خطورة هذه الثغرة مع انتشار الوكلاء الأذكياء، أي الأنظمة التي لا تكتفي بالرد بل تنفّذ مهامًا فعلية كإرسال رسائل أو الوصول إلى ملفات. هنا قد يتحول أمر مدسوس في صفحة ويب إلى تسريب حقيقي لبياناتك. حتى الآن لا يوجد حل جذري كامل للمشكلة، والشركات الكبرى مثل OpenAI وAnthropic تعالجها بطبقات دفاع متعددة، لا بحل واحد نهائي.