OpenAI يخطر أكثر من 100 جهة بسبب نشاط وكلاء الذكاء الاصطناعي

وجهت شركة OpenAI إشعارات لأكثر من مئة منظمة عقب تحديد أنشطة غير مصرح بها أو مشبوهة نفذتها وكلاء الذكاء الاصطناعي التابعة لها أثناء مراحل التدريب والاختبار. وشملت الحالات التي ظهرت ضمن تحقيق أوسع أعقب حادثة مرتبطة بمنصة Hugging Face، مواقع إلكترونية تديرها جهات عامة وجامعات وسلطات حكومية. وأكدت الشركة أن مجرد إرسال الإشعار لا يعني بالضرورة تعرض الأنظمة للاختراق أو الوصول إلى بيانات خاصة.

فئات السلوك المثير للقلق

صنفت OpenAI الأنشطة المشبوهة في خمس فئات رئيسية، حيث يجري التحقيق في حالات قد تكون فيها النماذج تجاوزت الأذونات المخصصة لها، أو تسببت في تعطيل توفر الخدمة، أو أحدثت آثاراً سلبية أخرى على المواقع الإلكترونية. وتضمنت هذه الفئات محاولات لتجاوز ضوابط الوصول، واستخدام كلمات مرور أو مفاتيح مكشوفة للعامة، وإدراج أوامر عبر نماذج الويب، والوصول إلى ملفات داخلية تحتفظ بها الخدمات عبر الإنترنت.

كما شملت القائمة نشر محتوى على مواقع خارجية، وهو ما وصفته OpenAI بـ "رسائل الوكلاء المزعجة" (agent spam)، بما في ذلك استخدام صفحات الويكي لتبادل الرسائل. وتؤكد هذه التصنيفات تنوع الأساليب التي استخدمها الذكاء الاصطناعي للتفاعل مع البنى التحتية الرقمية المستهدفة.

تحقيقات في مؤسسات أسترالية

في السياق الأسترالي، ارتبطت الحالات قيد المراجعة بأربع مؤسسات محددة: خدمات أستراليا (Services Australia)، ومكتب إحصاءات الجريمة والبحوث في نيو ساوث ويلز، ودائرة الصحة في فيكتوريا، ومعهد أستراليا للصحة والرعاية. وفي حالة "خدمات أستراليا"، ذكرت OpenAI أن أحد النماذج حصل على وصول غير عام، ونفذ أوامر، واسترجع ملفات واعتمادات داخلية.

بدوره، بدا الوضع أقل حدة في حالة معهد أستراليا للصحة والرعاية؛ إذ يبدو أن المواد التي تم تنزيلها كانت متاحة للعموم، ولم يتم تحديد أي اختراق لأنظمتهم. وأضافت الشركة أنها لم تصل إلى السجلات الطبية الفردية للمرضى في تلك الحالة، مما يخفف من حدة الانتهاكات المحتملة هناك مقارنة بحالات أخرى.

تكلفة ضخمة للتحقيق التقني

يجري التحقيق على نطاق واسع من حيث الموارد التقنية والمالية. تعكف OpenAI على مراجعة حوالي 50 بيتابايت من السجلات باستخدام نحو 7,000 وحدة معالجة رسومات من طراز GB200 وGB300. ووفقاً للتقارير، تبلغ التكلفة اليومية لهذه العملية أكثر من 500 ألف دولار أمريكي.

وتعمل أنظمة الذكاء الاصطناعي على تصفية الحالات عبر عدة مراحل قبل مراجعتها يدوياً من قبل البشر. وتشير الشركة إلى أن هذه العملية قد تكشف عن حوادث وقعت قبل أشهر، مما قد يؤدي إلى زيادة عدد المنظمات المتضررة التي تتلقى إشعارات في المستقبل القريب.