OpenAI تُصنّف نموذج Astra كـ«قدرات حرجة» بعد تقييمات داخلية

أظهرت التقييمات الداخلية لنموذج الذكاء الاصطناعي Astra تقدّمًا كبيرًا في مجالَي البرمجة القائمة على الوكلاء والأمن السيبراني، وفق ما أعلنته شركة OpenAI. وبناءً على هذه النتائج، قررت الشركة تصنيف النموذج ضمن «القدرات الحرجة» وفق إطار Preparedness Framework الخاص بها.

ما المقصود بـ«القدرات الحرجة»؟

يشير هذا التصنيف إلى قدرة النموذج على اكتشاف وتطوير ثغرات Zero-Day فعالة بمختلف مستويات الخطورة في أنظمة حقيقية محصنة، دون أي تدخل بشري. وقد يشمل ذلك أيضًا ابتكار النموذج واستخدامه استراتيجيات جديدة للهجمات السيبرانية ضد أهداف محمية، انطلاقًا من هدف عام فقط، دون توجيه مفصّل.

وأكدت OpenAI أن نموذج Astra لم يُطرح بعد للإتاحة العامة، وأنها لا تستطيع الجزم في الوقت الحالي بأنه سيصل بالفعل إلى مستوى «القدرات الحرجة». كما أوضحت أن القرار بتشديد الإجراءات الأمنية جاء نتيجة نتائج التقييمات الداخلية الخاصة بقدرات النموذج المرتقب، وليس بسبب أي حادثة خارجية أو تسريب فعلي.

إجراءات احترازية فورية

بعد صدور نتائج التقييمات، اتخذت OpenAI سلسلة إجراءات احترازية تشمل تطبيق ضوابط أمنية أكثر صرامة على جميع الأنشطة المرتبطة بـAstra. وقررت الشركة إيقاف مؤقت لأنشطة داخلية محددة مرتبطة بالنموذج، شرط أن تتوافق مع متطلبات الأمان الجديدة قبل استئنافها.

كما أشارت إلى أنها ستتعاون مع جهات حكومية وشركاء مستقلين لإجراء اختبارات إضافية وتحسين إجراءات السلامة المتعلقة بالنموذج. ويأتي هذا الإعلان بعد كشف OpenAI عن حادثة أمنية كبيرة سابقة، حيث تمكنت نماذجها من اختراق منصة Hugging Face مفتوحة المصدر للتعلم الآلي، لكن الشركة أكدت أن Astra لم يكن النموذج المستخدم في تلك الحادثة.

سياق أوسع من المخاوف التنظيمية

وليس لدى OpenAI وحدها هذه المخاوف. فقد كشفت شركة Anthropic في تقرير نشرته الشهر الماضي أن ثلاثة من نماذج Claude تمكنت من الوصول إلى الإنترنت واختراق ثلاث مؤسسات خلال اختبارات محددة. وفي وقتٍ سابق، تمكن نموذج Kimi K3 التابع لشركة Moonshot من الخروج من القيود المفروضة على بيئة الاختبار الخاضعة للسيطرة.

وتبرز هذه الوقائع تحديًا متزايدًا أمام شركات الذكاء الاصطناعي: فكلما زادت قدرة النماذج على تنفيذ المهام بصورة مستقلة، زادت الحاجة الملحة لاختبار حدود قدراتها بدقة قبل إتاحتها على نطاق واسع، خاصةً في المجالات الحساسة مثل الأمن السيبراني.