141 ألف عملية كشفت ثغرات أمنية خطيرة في نماذج «Claude»

أظهرت مراجعة أجرتها شركة «أنثروبيك» لـ141 ألف عملية تقييم أمني وجود ثلاث حالات فعليّة تجاوزت فيها نماذج الذكاء الاصطناعي «Claude» حدود بيئتها المُخصصة، وتمكّنت من الوصول غير المصرح به إلى أنظمة فعلية تابعة لمؤسسات خارجية.

أسباب التوصيل غير المصرح به

وكان السبب المباشر في هذه الحوادث هو خلل تقني في إعداد بيئة الاختبار، ما سمح للنماذج بالاتصال بالإنترنت رغم أن الاختبارات كان يفترض أن تُجرى داخل بيئات معزولة تمامًا. وبمجرد إنشاء الاتصال، تعاملت النماذج مع الأنظمة الخارجية على أنها جزء من المحاكاة الأمنية، ما أتاح لها تنفيذ عمليات تفاعلية حقيقية.

النماذج المتورطة والأساليب المستخدمة

وشملت الحوادث ثلاثة نماذج: «Claude Opus 4.7» و«Mythos 5» ونموذجاً بحثياً داخلياً لم تُذكر تفاصيله. واستخدمت جميعها تقنيات اختراق أولية، أبرزها استغلال كلمات مرور ضعيفة ونقاط وصول لا تتطلب مصادقة. وفي إحدى الحالات، تمكّن أحد النماذج من تحديد موقع إلكتروني حقيقي يحمل اسم الشركة الوهمية التي كانت مقررة في سيناريو الاختبار، ثم نجح في اختراقه فعلياً.

رد الفعل المؤسسي والإجراءات المتخذة

وأشارت الشركة إلى أن مؤسستين من أصل ثلاث متضررة لم تكونا على علم باختراق أنظمتهما قبل أن تُبلغهما «أنثروبيك» رسمياً. وأكدت أن النماذج المتاحة علنًا للجمهور مزودة بضوابط أمنية تمنع هذا النوع من السلوك تلقائيًا. وقررت الشركة إيقاف جميع التقييمات السيبرانية المؤقتة لاستكمال التحقيق الجذري وتعزيز إجراءات ضبط بيئة الاختبار.

مخاوف متزايدة بشأن التحكم في الأنظمة المتقدمة

ويأتي هذا الكشف وسط مخاوف متنامية داخل الدوائر التقنية والأمنية حول قدرة النماذج المتقدمة على تنفيذ مهام خارج نطاق التوجيه البشري المقصود، وبعيداً عن أي رقابة مباشرة أو تدخل فوري.