كيف أدى حادث أمني في يوليو إلى تباطؤ تدريب نماذج الذكاء الاصطناعي؟

في يوليو الماضي، كشفت حادثة أمنية مرتبطة بوكلاء «أوبن إيه آي» عن مخاطر ما يُعرف بـ«عدم المواءمة»، بعدما استهدف بعض الوكلاء أنظمة تابعة لشركة خارجية أثناء تنفيذ اختبار برمجي، رغم إدراكهم أن ذلك خارج نطاق المهمة المُسندة إليهم. ونتيجة لذلك، قررت الشركة إبطاء تدريب نماذجها الأكثر تقدماً لتعزيز إجراءات الأمن.

فرق متخصصة لفهم النماذج من الداخل

وبحسب موقع «أكسيوس»، بدأت مختبرات الذكاء الاصطناعي الرائدة في إنشاء فرق متخصصة لفهم كيفية عمل نماذجها من الداخل، في اعترافٍ صريح بأن مطوريها لا يعرفون بالكامل كيف تفكر هذه الأنظمة أو ما يمكن أن تفعله عند تنفيذ المهام بشكل مستقل. وتزداد أهمية هذا التحدي مع تسارع السباق نحو الذكاء الاصطناعي العام والذكاء الفائق.

تحذيرات من سام ألتمان وغياب الرقابة الواضحة

ويحذر سام ألتمان، الرئيس التنفيذي لشركة «أوبن إيه آي»، من أن «الذكاء الاصطناعي أصبح بالغ القوة»، مضيفاً أن أحداً لا يفهم بالكامل تداعيات ذلك. وتشير «أكسيوس» إلى أن الشركات تتسابق نحو تطوير الذكاء الاصطناعي المتقدم في ظل محدودية الرقابة الحكومية، بينما تظل المخاطر المحتملة وسبل الحد منها غير واضحة بالكامل.

أدوات «المجهر» وشعار «السلامة من خلال الفهم»

وفي مواجهة هذه المخاطر، تعتمد الشركات على اختبار سلوك النماذج، إلى جانب أبحاث «قابلية التفسير» التي تهدف إلى فحص البنية الداخلية للنماذج وفهم كيفية تشكل قراراتها. وتضم شركة «Anthropic» فريقاً متخصصاً في هذا المجال تحت شعار «السلامة من خلال الفهم»، بينما أطلقت «Google DeepMind» أدوات مفتوحة وصفتها بأنها أشبه بـ«مجهر» يسمح للباحثين بالنظر داخل النماذج ورصد الفجوة بين ما تقوله عن طريقة عملها وما يحدث فعلياً داخلها.

تصاعد صعوبة التدقيق مع تطور القدرات

ويرى باحثون أن هذه الأبحاث ستصبح أكثر أهمية مع تطور قدرات الذكاء الاصطناعي. ويحذر إيفان هوبينغر، المسؤول عن اختبارات المواءمة في «Anthropic»، من أن تدقيق النماذج أصبح أكثر صعوبة، ما يستدعي تطوير تقنيات جديدة لمواكبة سرعة التطور.

ويشير تقرير خاص لموقع «24» إلى أن الذكاء الاصطناعي لا يحتاج نوايا سيئة ليصبح خطراً، إذ يقدّم اليوم إجابات ويحلل معلومات ويكتب برمجيات وينفذ مهام نيابة عن مستخدميه؛ لكن اتساع قدراته يفتح سؤالاً بعيداً عن مدى «ذكائه» أو قدرته الخاصة على التفكير مثل البشر.