fbpx
مايو 28, 2023

تحذير أمني: ChatGPT قد يستخدم في أغراض “خبيثة”

أصدرت وكالة إنفاذ القانون الأوروبية “يوروبول” تحذيرا بشأن الروبوت الذي ينتج نصوصا مطولة خلال ثوان بناء على أسئلة المستخدمين “ChatGPT” ، وغيره من أدوات الذكاء الاصطناعي القادرة على إنتاج النصوص فورا.

ماذا قالت اليوروبول؟

تقول وكالة إنفاذ القانون الأوروبية “يوروبول” إن منصة “ChatGPT” يمكن أن تستخدم للاحتيال وغيرها من الجرائم الإلكترونية، وفق ما أورد موقع “euractiv” المتخصص في أخبار الاتحاد الأوروبي.
تضيف “يوروبول” أن هذه المنصة ستشكل تحديا أمنيا بالنسبة إلى سلطات إنفاذ القانون، حيث يمكن لـ”الجهات الخبيثة استغلالها”.
توضح أن المجرمين عادة ما يسارعون إلى استغلال التقنيات الجديدة، وشوهدوا وهم يستغلونها استغلالها خبيثا.
تشرح أن هذا الأمر حدث مرارا مع “ChatGPT”، وقالت إنها رصدت استخداما خبيثا لهذه المنصة بعد أسابيع من إطلاقها في أواخر نوفمبر 2022.

تشير الوكالة الأوروبية إلى أن القواعد المعتدلة التي تحكم “ChatGPT”، يمكن التحايل عليها عبر ما يعرف بـ” الهندسة الفورية”، التي تقوم على تزويد الذكاء الاصطناعي بمدخلات دقيقة بغية الحصول على نتائج محددة.
تقول إن الاستخدام الإجرامي لهذه المنصة يشمل تسريع عملية البحث بالنسبة لـ”الجهات الخبيثة”، بدون أن يكون لدى هذه الجهات أي معرفة مسبقة بمناطق الجرائم المحتملة مثل اقتحام المنازل والإرهاب والجرائم الإلكترونية والاعتداء الجنسي على الأطفال.
أضافت أن المنصة يمكن أن تعطي خطوات محددة بناء على أسئلة سياقية، بما يسهّل على المجرمين فهم الجرائم وتنفيذ العديد منها بسرعة.
تشدد الوكالة على أن التصعيد الاحتيالي هو أحد تطبيقات المنصة الجديدة، علما بأنها قادرة على إنتاج نصوص جديدة أكثر احترافا من الأساليب السابقة في هذا المجال التي كانت تعرف بسرعة بسبب الأخطاء اللغوية فيها.

أخبار ذات صلة