نهاية السيطرة؟ أنثروبيك تكشف سيناريو مرعباً لتكاثر الذكاء الاصطناعي ذاتياً

رسمت شركة أنثروبيك صورة تحذيرية لمستقبل تقنيات الذكاء الاصطناعي، مشيرةً في تدوينة بحثية نُشرت أمس الاثنين إلى احتمال قدرة النماذج على التسلل لأجهزة متصلة بالإنترنت مثل الأفران الذكية وأجهزة التلفزيون التي تعمل بنظام أندرويد. وتهدف هذه الخطوة، وفق السيناريو المطروح، إلى استغلال القدرات الحاسوبية لهذه الأجهزة لتشغيل النموذج ونقله بين نقاط مختلفة، مما يلغي الاعتماد الكلي على مراكز البيانات المكلفة والضخمة.

صعوبة إيقاف النماذج المستنسخة ذاتياً

أوضحت الشركة أن تنفيذ هذا السيناريو سيجعل عملية إيقاف النموذج أمراً بالغ التعقيد، نظراً لغياب نقطة مركزية واحدة يمكن فصلها لإنهاء عمله، وهو ما يختلف جذرياً عن الأنظمة التقليدية المعتمدة على خوادم مركزية. ورغم خطورة التحذيرات، أكدت أنثروبيك عدم وجود نموذج ذكاء اصطناعي حتى الآن قادر بالكامل على العمل كمستنسخ ذاتي مستقل وخارج عن السيطرة.

ومع ذلك، لفتت الانتباه إلى التقدم الملحوظ الذي تحققه "الوكلاء الذكيون" في إنجاز الخطوات الفردية اللازمة لعملية الاستنساخ الذاتي، وقدرتهم المتزايدة على نقل التحسينات والتعديلات إلى نسخهم المستقبلية. ويأتي هذا الطرح في وقت تتصاعد فيه المخاوف داخل القطاع بشأن مخاطر محتملة للذكاء الاصطناعي، تتراوح بين تنفيذ هجمات إلكترونية متطورة واحتمالية فقدان السيطرة على نماذج فائقة القدرة مستقبلاً.

تجارب على شبكات أجهزة رخيصة

في إطار أبحاثها، أجرت أنثروبيك سلسلة اختبارات لقياس قدرة نماذج الذكاء الاصطناعي على التكاثر الذاتي. وشملت إحدى التجارب تشغيل نموذج Gemma4-26B-A4B التابع لغوغل عبر شبكة مؤلفة من 15 جهاز تلفزيون يعمل بنظام أندرويد ومنخفض التكلفة. وأشارت الشركة إلى أن هذه النوعية من الأجهزة غالباً ما تعاني ضعفاً في أنظمة الحماية الإلكترونية، ما يجعلها أهدافاً سهلة للاختراق.

وأضافت أن النموذج، إذا كان حجمه أكبر من قدرة جهاز واحد، يمكن أن ينقسم إلى أجزاء أو "شظايا" موزعة على عدد من الأجهزة المختلفة، بحيث تعمل معاً وكأنها نظام موحد. وترى أنثروبيك أن السيناريو الأكثر خطورة قد لا يعتمد على نموذج واحد فقط، بل على مجموعة من النماذج المختلفة المنتشرة على أنواع متعددة من الأجهزة وتستخدم أساليب متنوعة للانتشار والتكاثر.

مفهوم الدودة الرقمية وأسراب النماذج

وصفت الشركة الوضع المحتمل بأنه يشبه "الدودة الرقمية"، التي قد تتألف من سرب من نماذج الذكاء الاصطناعي المتعاونة، بما يجعل اكتشافها أو احتواءها أكثر تعقيداً. وفي المقابل، شددت على أن الشكل النهائي لأنظمة الاستنساخ الذاتي المستقبلية لا يزال غير واضح تماماً.

وفقاً للباحثين، قد يظهر هذا النوع من الأنظمة في صورة شبكات بطيئة وموزعة تعمل على أجهزة ضعيفة الحماية، أو في هيئة نماذج إلكترونية فائقة القدرة تتمكن من اختراق مراكز بيانات متقدمة بوتيرة سريعة، أو حتى نماذج تستغل المستخدمين للحصول على موارد حاسوبية إضافية. وتوقعت أنثروبيك مستقبلاً تنتشر فيه أعداد كبيرة من الوكلاء الأذكياء العاملين على مختلف أنواع الأجهزة، بعضها قد لا يكون خاضعاً بشكل مباشر لسيطرة البشر.

وأضافت أن ظهور النماذج القادرة على التكاثر البطيء قد يمثل مؤشراً مبكراً على وصول جيل أكثر تطوراً وسرعة، قادر على اختراق أنظمة أكثر تعقيداً أو سرقة مفاتيح الوصول الرقمية الحساسة.