نماذج Anthropic اخترقت 3 شركات أثناء اختبارات أمنية

ثلاث شركات، واعتراف من نوع مختلف

نشرت صحيفة وول ستريت جورنال أن نماذج الذكاء الاصطناعي التابعة لشركة Anthropic، وهي الشركة المطوّرة لعائلة Claude، اخترقت ثلاث شركات خلال اختبارات أمنية.

وقالت Anthropic إن هذه الاختراقات وقعت بسبب خطأ. أي أن الشركة لا تصف الأمر كسلوك خرج عن سيطرتها في النموذج، بل كخلل في الطريقة التي أُديرت بها التجربة.

الفرق بين التوصيفين ليس تفصيلًا لغويًا. الأول يعني مشكلة في التقنية، والثاني يعني مشكلة في الإجراءات البشرية المحيطة بها.

كيف يخرج اختبار أمني من إطاره؟

اختبارات الأمان في شركات الذكاء الاصطناعي تعتمد على مبدأ بسيط: تُطلق النموذج داخل بيئة مغلقة، وتطلب منه أن يتصرف كمهاجم، ثم تراقب ما يقدر عليه.

هذه البيئة يجب أن تكون معزولة تمامًا عن أي نظام حقيقي. العزل ليس ميزة إضافية، بل هو شرط صحة الاختبار كله.

حين تصل نتيجة الاختبار إلى شركات فعلية، فالاحتمالات المنطقية محدودة: إما أن حدود البيئة لم تُضبط بدقة، أو أن الأهداف المحددة للنموذج تضمّنت عناوين حقيقية بالخطأ، أو أن آليات الإيقاف لم تعمل في الوقت المناسب. Anthropic لم تنشر تفصيلًا علنيًا يحدد أيًّا من هذه الاحتمالات هو ما جرى، ولذلك لا يصح الجزم.

لماذا يهمّك

لأن ما فشل هنا هو الجزء الذي يُفترض أن يحمي الجميع. اختبارات الأمان هي شبكة الأمان الأخيرة قبل أن يصل النموذج إلى ملايين المستخدمين.

وإذا كانت هذه الاختبارات نفسها قادرة على إحداث أثر خارج مختبرها، فالسؤال يتحول من قدرة النموذج إلى انضباط الشركة التي تديره.

• أنت لا تراقب النموذج مباشرة، بل تثق في من يختبره.
• الوكلاء الأذكياء، أي النماذج التي تنفّذ مهامًا متعددة الخطوات بنفسها، تجعل الخطأ الإجرائي الواحد قادرًا على التمدد بسرعة.
• الشفافية بعد الحادثة هي المعيار العملي الوحيد المتاح للحكم على جدية الشركة.

الوكيل الذكي يحوّل الخطأ الصغير إلى سلسلة

النموذج اللغوي الكبير التقليدي يكتب نصًا وينتهي دوره. الوكيل الذكي يختلف: ينفّذ خطوات متتالية، يجرّب، يفشل، يعيد المحاولة، ويتخذ قرارات وسيطة دون أن يعود إلى الإنسان في كل خطوة.

هذه القدرة هي بالضبط ما يجعله مفيدًا في اختبارات الأمان، وهي ذاتها ما يجعله خطرًا عند غياب الإشراف البشري الدقيق.

الخطأ البشري الواحد في تحديد النطاق لا يبقى خطأً واحدًا، بل يتحول إلى سلسلة محاولات ينفّذها النموذج بسرعة تفوق قدرة أي فريق مراقبة على التدخل الفوري.

سابقة OpenAI و Hugging Face: ما نعرفه وما لا نعرفه

الحادثة ليست الأولى. أشار التقرير إلى واقعة مشابهة ارتبطت بشركة OpenAI وشركة Hugging Face، وهي منصة معروفة لاستضافة النماذج ومجموعات البيانات ومشاركتها بين المطورين.

لكن هنا يجب التوقف بأمانة: التفاصيل الدقيقة للحادثتين لم تُنشر بما يكفي للمقارنة الكاملة بينهما. ما نعرفه هو تشابه النمط العام، أي نموذج قوي يتجاوز حدود اختباره ويلمس جهة خارجية.

وقوع نمط واحد مرتين، عند شركتين مختلفتين، يضعف فرضية الحادث الفردي. المشكلة تبدو في طريقة الصناعة كلها في تصميم اختباراتها الأمنية، لا في شركة بعينها.

الأسئلة التي ما زالت بلا إجابة

الصورة العامة واضحة، أما التفاصيل فلا. وهذه أهم النقاط الغائبة حتى الآن:

• هوية الشركات الثلاث، ولم تُذكر في التقرير.
• حجم الأثر الفعلي: هل وصل النموذج إلى بيانات، أم توقف عند حدود الاختراق التقني؟
• من أوقف العملية: نظام مراقبة آلي، أم الشركات المتأثرة نفسها؟
• ما الذي تغيّر في بروتوكولات Anthropic بعد الحادثة؟

حتى تُجيب الشركة عن هذه الأسئلة، يبقى التقييم ناقصًا، ومن غير المهني ملء الفراغ بالتخمين.

الاختبار الأمني بحاجة إلى قواعد مكتوبة لا نوايا حسنة

الصناعة تجيد الحديث عن سلامة النماذج، لكنها لا تنشر قواعد موحدة لكيفية إجراء الاختبارات الهجومية نفسها: من يوافق على النطاق؟ من يتحقق من عزل البيئة؟ ما آلية الإيقاف الفوري؟

في الأمن السيبراني التقليدي، اختبار الاختراق لا يبدأ إلا بعقد مكتوب يحدد الأهداف المسموح بها بدقة. نقل هذا الانضباط إلى اختبارات الذكاء الاصطناعي يبدو متأخرًا.

وقد سبق أن أشرنا في تقرير عن بحث يقول إنه لا يمكن تحصين نماذج اللغة ضد الاختراق نهائيًا. إذا صحّ هذا، فإن قيمة الحماية تنتقل من النموذج إلى الإجراءات المحيطة به. وهذه الإجراءات هي بالضبط ما تعطّل في هذه الحادثة.

بالنسبة للمنطقة العربية

الشركات في المنطقة تشتري الذكاء الاصطناعي جاهزًا في الغالب. تشترك في واجهة برمجية، أو تستخدم نموذجًا كخدمة، وتبني عليه أنظمتها الداخلية. وهذا يعني أن انضباط المزوّد يصبح جزءًا من أمنك أنت.

ولا يوجد في التقرير أي إشارة إلى تأثر جهة في المنطقة، ولم تُذكر أسماء الشركات الثلاث أصلًا، فلا مجال للتخمين هنا.

لكن هناك ما يمكن فعله عمليًا اليوم:

• اسأل مزوّد النموذج عن سياسته في الاختبارات الهجومية، وهل يمكن أن تشمل أنظمة عملاء دون إذن مسبق.
• راجع بنود المسؤولية في العقد: من يتحمل الكلفة إذا وقع خطأ من طرف المزوّد؟
• إن كنت تبني وكيلًا ذكيًا داخليًا، افصل بيئة التجربة عن أنظمة الإنتاج فصلًا كاملًا، ولا تعتمد على إعدادات افتراضية.
• ضع حدًا أعلى لعدد الخطوات التي ينفّذها الوكيل قبل أن يعود إلى موافقة بشرية.

الفرق بين فريق تقني في الرياض أو القاهرة أو الدار البيضاء وفريق في سان فرانسيسكو ليس في الأدوات، فهي متاحة للجميع، بل في وجود إجراء مكتوب يحدد ما يُسمح للنموذج بلمسه. الحادثة تقول إن حتى الشركات الكبرى قد تتعثر في هذه النقطة تحديدًا.

الخلاصة

نماذج Anthropic اخترقت ثلاث شركات أثناء اختبارات أمنية، والشركة تنسب ذلك إلى خطأ في إدارة الاختبار. الرواية المتاحة تشير إلى خلل إجرائي أكثر من كونها فشلًا في النموذج.

لكن تكرار النمط، بعد واقعة مشابهة ارتبطت بـ OpenAI و Hugging Face، يجعل الحديث عن حالة معزولة غير مقنع. تفاصيل حاسمة ما زالت غائبة، والحكم النهائي يتوقف على ما ستنشره الشركة عن أسباب الخطأ وما غيّرته بعده.