تحذيرات OWASP: مخاطر إدخال البيانات الحساسة في نماذج الذكاء الاصطناعي

يُصنّف مشروع OWASP الخاص بأمن تطبيقات الذكاء الاصطناعي كشف المعلومات الحساسة ضمن أبرز المخاطر التي تواجه المستخدمين. وأوضح المشروع أن البيانات الشخصية والمالية والسجلات الصحية والبيانات التجارية السرية قد تتعرض للكشف أو الاستخدام غير المقصود، وذلك وفقاً لطريقة تصميم وتشغيل النظام.

مخاطر إدخال البيانات الشخصية

يعد إدخال البيانات الحساسة في أدوات الذكاء الاصطناعي من أبرز الأخطاء الواجب تجنبها. ويشمل ذلك التعامل مع أرقام الهواتف وكلمات المرور وبيانات البطاقات البنكية والمستندات الشخصية والسجلات الطبية والملفات السرية الخاصة بالعمل. ومع توسع استخدام هذه النماذج ووصولها إلى الملفات والبريد الإلكتروني ومختلف الخدمات، أصبحت بعض الأخطاء البسيطة مصدرًا لمخاطر تتعلق بالخصوصية والأمان ودقة المعلومات.

عدم التحقق من دقة الإجابات

لا يعني الاعتماد المتزايد على الأدوات أن كل إجابة يقدمها الذكاء الاصطناعي صحيحة. فقد تقدم النموذج إجابة تبدو دقيقة ومقنعة لكنها تحتوي على معلومات غير صحيحة أو استنتاجات خاطئة. لذلك لا ينبغي الاعتماد على الإجابة وحدها في القرارات المهمة، وتزداد أهمية المراجعة عندما يتعلق الأمر بالمعلومات الطبية أو القانونية أو المالية أو الأخبار، حيث يجب الرجوع إلى مصدر موثوق قبل اتخاذ أي قرار بناءً على ما قدمه النموذج.

رفع ملفات دون فحص المحتوى

يستخدم كثير من الأشخاص هذه الأدوات لتحليل ملفات PDF والصور والمستندات. ويبدأ الخطأ عند رفع ملف يحتوي على معلومات سرية دون الانتباه إلى طبيعة البيانات الموجودة بداخله أو كيفية تعامل الخدمة معها. ولا يقتصر الخطر على البيانات الظاهرة، إذ يمكن أن تحتوي المستندات على معلومات مخفية أو بيانات وصفية أو تعليمات يمكن لنماذج الذكاء الاصطناعي قراءتها.

هجمات حقن التعليمات البرمجية

لفت OWASP إلى خطر "Prompt Injection" أو حقن التعليمات البرمجية الخبيثة. ويمكن وضع تعليمات خبيثة داخل صفحات الإنترنت أو الملفات أو رسائل البريد الإلكتروني، ثم تقوم أداة الذكاء الاصطناعي بقراءتها والتعامل معها كجزء من السياق الذي تعمل عليه. وقد يؤدي هذا النوع من الهجمات إلى تغيير طريقة استجابة النموذج أو محاولة دفعه إلى كشف معلومات أو تنفيذ إجراءات لم يكن المستخدم يقصدها.

تنفيذ الإجراءات التلقائية بلا رقابة

تزداد الخطورة عندما لا يكتفي الذكاء الاصطناعي بتقديم المعلومات، وإنما يمتلك صلاحية تنفيذ إجراءات فعلية مثل إرسال رسائل البريد الإلكتروني أو تعديل ملفات أو التعامل مع خدمات وحسابات أخرى. وتوصي إرشادات OWASP بوجود مراجعة بشرية قبل تنفيذ العمليات الحساسة، خصوصًا عندما يمتلك النظام صلاحيات واسعة، مع تطبيق مبدأ منح النموذج أقل قدر ممكن من الصلاحيات اللازمة لتنفيذ مهمته.

تشغيل الأكواد المولدة مباشرة

يلجأ المطورون لأدوات الذكاء الاصطناعي لإنشاء الأكواد وتصحيح الأخطاء. لكن نسخ الكود وتشغيله مباشرة دون مراجعته قد يؤدي إلى إدخال ثغرات أو سلوك غير متوقع داخل البرنامج. لذلك يجب اختبار الكود وفهم ما يفعله، خصوصًا عندما يتعامل مع كلمات المرور أو قواعد البيانات أو الملفات أو صلاحيات النظام.

استخدام أدوات مجهولة المصدر

ليست كل الأدوات التي تحمل اسم AI متساوية من حيث الخصوصية والأمان. ولذلك يجب الانتباه إلى الجهة المطورة للخدمة وسياسة الخصوصية والصلاحيات التي تطلبها وطريقة التعامل مع الملفات والبيانات التي يرفعها المستخدم. ويصبح الأمر أكثر أهمية عندما تطلب الأداة الوصول إلى البريد الإلكتروني أو التخزين السحابي أو خدمات أخرى مرتبطة بالحساب.

إدارة الصلاحيات الزائدة

كلما زادت الخدمات المرتبطة بأداة الذكاء الاصطناعي، زادت العواقب المحتملة في حالة اختراقها أو إساءة استخدام صلاحياتها. ولهذا يشدد إطار OWASP على أهمية التحكم في الصلاحيات وعدم منح نماذج الذكاء الاصطناعي وصولًا غير ضروري إلى البيانات والأنظمة، خصوصًا في الأدوات التي تستطيع تنفيذ مهام نيابة عن المستخدم.

التعامل الواعي مع التقنية

لا يعني وجود هذه المخاطر أن المستخدم يجب أن يتوقف عن استخدام أدوات الذكاء الاصطناعي، وإنما أن يتعامل معها بقدر أكبر من الوعي. ويبدأ الاستخدام الآمن بعدم إدخال المعلومات الحساسة دون ضرورة، ومراجعة الإجابات المهمة، وفحص الملفات قبل رفعها، وعدم تشغيل الأكواد أو تنفيذ الإجراءات الحساسة بشكل تلقائي، إلى جانب مراجعة الصلاحيات التي تحصل عليها أدوات الذكاء الاصطناعي.