زيادة مقلقة في تزييف الإباحية باستخدام الذكاء الاصطناعي

أصدرت مؤسسة مراقبة الإنترنت (IWF) تقريراً مقلقاً يكشف عن الزيادة الكبيرة في استخدام الذكاء الاصطناعي لإنشاء محتوى جنسي زائف يُعرف بـ"التزييف العميق" (AI CSAM). في تقرير يوليو 2024، رصد الباحثون قفزة ملحوظة في هذا النوع من المحتوى، مشيرين إلى معدل مخيف في إنتاجه.

بين مارس وأبريل 2024، اكتشف الباحثون ما يقارب 9 مقاطع فيديو جديدة مزيفة لإساءة معاملة الأطفال على منتدى الويب المظلم، وهو ما لم يكن موجوداً في تحقيقات سابقة حتى أكتوبر 2023. علاوة على ذلك، اكتشف التقرير أكثر من 12,000 صورة جديدة تم إنشاؤها بواسطة الذكاء الاصطناعي خلال شهر واحد، منها 3,500 صورة تعتبر إجرامية وتصور إساءة معاملة شديدة.

في أكتوبر 2023، تم اكتشاف أكثر من 20,200 صورة اعتداء جنسي على الأطفال تم إنشاؤها بواسطة الذكاء الاصطناعي على المنتديات المظلمة خلال فترة شهر واحد، من بينها تم تصنيف 11,100 صورة منها كصور زائفة إجرامياً، و400 صورة محظورة.

النتائج تشير إلى تأخر التشريعات في المملكة المتحدة في مواجهة تطور تكنولوجيا الذكاء الاصطناعي. ورغم أن الذكاء الاصطناعي للتزييف العميق يعد غير قانوني، فإن الأدوات التي تُستخدم لإنشاء الصور تبقى غير محظورة، مما يصعب محاكمة المجرمين المتورطين.

في سبتمبر 2022، أطلقت مؤسسة IWF برنامج "reThink" بالتعاون مع Pornhub للردع عن البحث عن مواد الاعتداء الجنسي على الأطفال، حيث تفاعل البرنامج مع أكثر من 173,000 مستخدم في شهره الأول، موجهًا إياهم إلى خدمات الدعم.

إضافة إلى ذلك، يأتي التقرير في وقت يتصاعد فيه الجدل حول دور شركات التكنولوجيا الكبرى، مثل Apple، في مكافحة هذه الظاهرة. وفقاً للجمعية الوطنية لمنع القسوة على الأطفال في المملكة المتحدة (NSPCC)، تم الإبلاغ عن حالات اعتداء جنسي على الأطفال في إنجلترا وويلز تتعلق بخدمات Apple مثل iCloud وiMessage وFaceTime أكثر مما أبلغت عنه الشركة على مستوى العالم. على الرغم من أن Apple كانت تخطط لاستخدام الذكاء الاصطناعي للكشف عن هذا المحتوى، إلا أن المخاوف المتعلقة بالخصوصية أدت إلى إلغاء هذه الخطط.

تظل جهود مؤسسة IWF في التصدي لهذه الظاهرة مستمرة، ولكن التحديات تظل كبيرة في ظل التطورات السريعة في التكنولوجيا واستخدامها لأغراض غير قانونية.

حفاظاً على حقوق الملكية الفكرية يرجى عدم نسخ ما يزيد عن 20 في المئة من مضمون الخبر مع ذكر اسم موقع Dailybeirut وارفاقه برابط الخبر.

دايلي بيروت