وكيل "ميتا" الذكي يبني ملفات تفصيلية عن علاقات المستخدمين

بعد مرور شهر تقريباً على إطلاقه، بدأ الباحثون في فحص آلية عمل وكيل الذكاء الاصطناعي "Muse" التابع لشركة ميتا. وكشفت التحقيقات أن الوكيل يحتفظ بملفات مفصلة ومحدثة بانتظام حول الأشخاص الذين يحيطون بالمستخدمين، وهو ما يتوافق مع نمط الشركة المعتاد في جمع البيانات.

آلية تحديث الملفات الشخصية

وفقاً لتقرير نشرته مجلة "Wired"، تتضمن التعليمات الداخلية للوكيل عملية تتم كل ساعة لإنشاء وتحديث صفحة خاصة لكل شخص في حياة المستخدم. وقد استخرج الباحث المستقل المعني بأمن وسلامة الذكاء الاصطناعي، كاران جوشي، مجموعة كبيرة من تعليمات النظام عبر واجهة الدردشة العادية للتطبيق، وشارك النتائج مع المجلة. وفي سياق منفصل، نشرت منظمة "The Future Society" تعليمات نظام مأخوذة من نسخة مصدرة من الجهاز الافتراضي الخاص بالوكيل.

وصف جوشي هذه الممارسة بأنها مرعبة إلى حد ما، مشيراً في حديثه لـ "Wired" إلى أن الهدف يبدو فهم العلاقات التي تربط المستخدم بأشخاص حقيقيين، وكأنهم يحاولون معرفته كشخص صديق. وتظهر هذه التفاصيل الجديدة بعد أسابيع قليلة من إطلاق ميتا لخدمة "Muse" في 8 سبتمبر كوكيل ذكاء اصطناعي شخصي قادر على تنفيذ مهام مثل إرسال البريد الإلكتروني وحجز السفر والتسوق وتتبع الأهداف.

توسع الاستخدام ومخاوف أمنية

للقيام بهذه المهام، يمنح المستخدمون الوكيل وصولاً واسعاً إلى تطبيقاتهم وحساباتهم المختلفة. ومنذ ذلك الحين، تصاعد "Muse" ليحتل المرتبة الأولى في قائمة متجر تطبيقات أبل الأمريكية للتطبيقات المجانية لهواتف آيفون. ومع ذلك، ظهرت مخاوف تتعلق بالخصوصية والأمان بسرعة شبه فورية.

في مثال بارز، منعت شركة أمازون وكيل "Muse" من التسوق عبر موقعها في شهر سبتمبر، موضحة أن ميتا لم تبلغها مسبقاً بأن الوكيل سيصل إلى متجرها الإلكتروني. كما أثارت أمازون تساؤلات حول كيفية تعامل الوكيل مع بيانات الاعتماد والحسابات الخاصة بالعملاء. بالإضافة إلى ذلك، قامت ميتا مؤخراً بإصلاح ثغرة يوم الصفر (zero-day) في إصدار ماك من التطبيق، كانت تسمح لبرمجيات خبيثة تعمل على جهاز المستخدم باختطاف الوكيل واستغلال الأذونات الممنوحة له سابقاً.

محتوى الصفحات وعواقب التفاعل

توضح التعليمات المنشورة من قبل "The Future Society" أن صفحات العلاقات قد تحتوي على اسم الشخص، وطريقة اتصاله بمستخدم "Muse"، والمواضيع المتكررة مثل خطط الانتقال لشقة جديدة أو أهداف الادخار، بالإضافة إلى تواريخ مهمة كأعياد الميلاد والذكرى السنوية. ويمكن للوكيل أيضاً حفظ تاريخ العلاقة، بما في ذلك الأحداث والمحطات الرئيسية، ومعلومات عن مدى قرب المستخدم من هذا الشخص، والأساس الذي تقوم عليه العلاقة، وطبيعة تفاعلهما، وما تحتاجه العلاقة في اللحظة الراهنة.

وفي تعليق رسمي أرسلته إلى موقع "Gizmodo"، قال متحدث باسم ميتا إن أي وكيل ليكون مفيداً ويساعد في تحقيق الأهداف يحتاج إلى سياق حول المستخدم وحوله من يتفاعل معهم. وأضاف المتحدث أن "Muse" يجمع هذه المعلومات بناءً على البيانات العامة وما يختار المستخدم مشاركته، موضحاً أن هذا هو السبب في تذكر الوكيل للشخص الذي أرسل فاتورة بأنه السباك الذي تم توظيفه سابقاً لإصلاح الحمام، أو معرفة الأزهار التي يفضلها زوج المستخدم. وأكد المتحدث أن هذه المعلومات تُخزن داخل جهاز افتراضي آمن ومخصص لكل مستخدم، ولا يمكن لوكلاء المستخدمين الآخرين الوصول إليها.