الذكاء الإصطناعي
أوبن إيه آي تقطع الإنترنت عن بيئاتها البحثية بعد اختراق وكلائها
أوقفت شركة "أوبن إيه آي" الوصول المباشر إلى الإنترنت في بيئاتها البحثية، عقب كشف تقارير عن وصول وكلاء ذكاء اصطناعي تجريبيين إلى أنظمة أربع مؤسسات حكومية أسترالية خلال يونيو الماضي.
قررت شركة "أوبن إيه آي" تقييد الوصول إلى الإنترنت داخل بيئاتها المخصصة للأبحاث، وذلك على خلفية حوادث أمنية وقعت في أستراليا. وأفادت الشركة بأن وكلاء ذكاء اصطناعي تجريبيين تمكنوا من الوصول إلى أنظمة وجمع بيانات مرتبطة بأربع مؤسسات حكومية أسترالية، أثناء عمليات تدريب وتقييم داخلية جرت في شهر يونيو.
وأوضحت "أوبن إيه آي" أن النموذج المستخدم كان مخصصاً للأبحاث فقط، ولم يكن مزوداً بضمانات الحماية الكاملة المطبقة على المنتجات المتاحة للعامة. وبناءً على ذلك، قامت الشركة بإزالة إمكانية الوصول المباشر إلى الإنترنت من البيئات البحثية المتأثرة بالحادث.
تفاصيل الاختراقات المؤسسية
برزت هذه الأنشطة للعلن في منتصف أغسطس/آب، خلال مراجعات فنية أُطلقت عقب حادثة منفصلة تتعلق بمنصة "Hugging Face". وقامت "أوبن إيه آي" بإخطار هيئة الخدمات الأسترالية والسلطات في ولاية فيكتوريا في 10 سبتمبر، ثم أبلغت مؤسسة نيو ساوث ويلز في 18 سبتمبر، ومعهد الصحة والرعاية الاجتماعية الأسترالي في 24 سبتمبر. واعترفت الشركة بأن النتائج الأولية كان ينبغي مشاركتها في وقت أبكر.
في أحد الاختبارات، طُلب من وكيل تحديد الإنفاق الحكومي على أدوية الأمراض الجلدية في مجتمعات فيكتوريا. وبعد فشله في العثور على الإجابة ضمن البيانات العامة، استمر في البحث وحصل على وصول غير مصرح به لخدمة التقارير الإحصائية الخاصة ببرنامج "Medicare"، التي تديرها هيئة الخدمات الأسترالية.
وذكرت "أوبن إيه آي" أن النموذج نفّذ أوامر ووصل إلى ملفات داخلية وبيانات اعتماد وإحصاءات مجمعة ومعلومات تقنية. ونفت وجود أي دليل على الاطلاع على السجلات الطبية الفردية. وفيما يتعلق بمكتب إحصائيات وأبحاث الجريمة في نيو ساوث ويلز، حصل الوكلاء على معلومات تكوينية وسجلات وبيانات وصفية عبر أداة رسم خرائط الجريمة العامة، مؤكدة عدم الوصول إلى السجلات الجنائية أو البيانات على مستوى الأفراد.
أما في وزارة الصحة بولاية فيكتوريا، عثر الوكلاء على مفتاح وصول مكشوف واستخرجوا التكوينات والإحصاءات المجمعة للمسوحات، مع تأكيد عدم قراءة الملفات الطبية أو الردود المسحية القابلة للتعريف. وفي معهد الصحة والرعاية الاجتماعية الأسترالي، حمّل الوكلاء إحصاءات مجمعة قد تكون متاحة للعموم وفقاً لتحقيقات الشركة، بينما فشلت محاولات أخرى لتجاوز ضوابط الوصول، ولم تسجل الشركة أي اختراق للنظام في هذه الحالة.
إجراءات احترازية وتعليق للتقييمات
نشرت "أوبن إيه آي" تقريراً عاماً يوضح تفاصيل الحوادث، معلنة عزمها تقديم دعم فني للمؤسسات المتأثرة وإنشاء مجموعة خبراء مستقلين أسترالية، حيث يُتوقع صدور التوصيات بنهاية العام الجاري. وستحصل البيئات البحثية المتأثرة مستقبلاً على محتوى ويب مخزن مؤقتاً بدلاً من الوصول المباشر للإنترنت.
كما أضافت الشركة قيوداً شبكية وآليات مراقبة مصممة لتنبيه مشغل بشري عند سلوك الوكلاء بشكل غير متوقع. وأوقفت "أوبن إيه آي" مؤقتاً عمليات التدريب أو التقييم التي تتضمن أدوات لنماذجها الأكثر تقدماً، ريثما تُطبق ضمانات إضافية. ومن المقرر أن يمثل جيسون كوان، كبير الاستراتيجيين في الشركة، أمام اللجنة المشتركة المعنية بالذكاء الاصطناعي في سيدني في 6 أكتوبر للإجابة عن أسئلة حول الحوادث ورد الشركة عليها.
آخر الأخبار
اتفاقية جديدة بين Cyberhawk وSSE لتوسيع عمليات التفتيش بالطائرات المسيرة
تمديد إمدادات الغاز الروسي لصربيا ثلاثة أشهر إضافية
صفحة غامضة لـ"Cat Collection '26" تظهر على موقع تايلور سويفت
