مايكروسوفت تحذر: وكلاء الذكاء الاصطناعي قد يتحولون إلى "جواسيس" داخل الشركات

أصدرت شركة مايكروسوفت (Microsoft) تقريراً أمنياً استراتيجياً حول مستقبل التقنية. فمن جهة، انتقل الذكاء الاصطناعي من مرحلة الدردشة إلى مرحلة العمل المستقل بالنيابة عن الإنسان. ومن جهة أخرى، يفتح هذا التطور ثغرات أمنية غير مسبوقة في قلب المؤسسات. وبناءً عليه، لم يعد الأمان مجرد خيار، بل أصبح شرطاً أساسياً للبقاء الرقمي.

جوهر الخطر: الاستقلالية في تنفيذ المهام

تكمن الخطورة في قدرة "الوكيل الذكي" على الوصول للبريد والبيانات وتنفيذ الأوامر تلقائياً. فمن ناحية، يمتلك الوكيل صلاحية حجز الرحلات أو إرسال التقارير المالية دون تدخل بشري. ومن ناحية أخرى، تجعل هذه الاستقلالية الوكلاء هدفاً جذاباً جداً للمهاجمين السيبرانيين. ولذلك، حذرت الشركة من تحول الوكيل إلى منفذ للأوامر الخبيثة.

هجمات الحقن غير المباشر ومعضلة الصلاحيات

كشف التقرير عن نوع خطير من الهجمات يُسمى "حقن الأوامر غير المباشرة". فمن جهة، يكفي إرسال بريد إلكتروني يحتوي على أكواد مخفية ليقوم الوكيل بامتصاصها وتنفيذها. ومن جهة أخرى، تمنح بعض الشركات الوكلاء صلاحيات واسعة جداً تشبه صلاحيات "مدير النظام". ونتيجة لذلك، يصبح اختراق وكيل واحد بمثابة الحصول على المفتاح الرئيسي لكل أسرار الشركة.

ثغرة "إيكو ليك" وظهور الذكاء الاصطناعي الخفي

تطرق التقرير إلى ثغرة "إيكو ليك" التي تستهدف ذاكرة الوكيل لكشف سجلات الدردشة السابقة. فمن ناحية، يعتمد قرابة 30% من الموظفين على وكلاء خارجيين غير معتمدين أمنياً. ومن ناحية أخرى، تخرج هذه البيانات الحساسة إلى خوادم خارجية لا تخضع لأي رقابة. ولذلك، وصفت مايكروسوفت هذا الوضع بـ "كابوس الصلاحيات" الذي يهدد خصوصية البيانات الضخمة.

نموذج أمني جديد للحماية من المخاطر

طرحت مايكروسوفت نموذجاً أمنياً يعتمد على ثلاثة أعمدة رئيسية لضمان الحماية. فبواسطة مبدأ "الموافقة البشرية"، يجب ألا ينفذ الوكيل أي إجراء مالي دون إذن صريح. وبالإضافة إلى ذلك، يجب تطبيق مبدأ "الحد الأدنى من الصلاحيات" وتضييق نطاق الوصول للمعلومات. وفي النهاية، تظل المراقبة المستمرة لسلوك الوكلاء هي الضمانة الوحيدة لمنع تحولهم إلى "حصان طروادة".

إن الذكاء الاصطناعي هو محرك الإنتاجية القادم، لكن الحذر والرقابة هما ما يحولان دون تحوله إلى مصدر خطر.