أنثروبيك تستشير علماء دين لبحث الوضع الأخلاقي لنموذج كلود

في خطوة تعكس عمق التحديات الفلسفية التي تواجه تطوير الذكاء الاصطناعي، لجأت شركة "أنثروبيك" إلى عقد نقاشات مغلقة جمعت بين لاهوتيين وفلاسفة وعلماء أديان. تأتي هذه التحركات ضمن مساعي الشركة لتحديد منظومة القيم التي تحكم سلوك نموذجها اللغوي "كلود"، وفقاً لما نقلته صحيفة نيويورك تايمز. ولم تقتصر المحادثات على الجوانب التقنية أو السلوكية المعتادة، بل امتدت لتطرح تساؤلاً أكثر تجريداً يتعلق بمدى استحقاق أنظمة الذكاء الاصطناعي المتقدمة للاعتبار الأخلاقي في المستقبل.

عدم اليقين حول الوعي الآلي

على الرغم من هذه النقاشات المعمقة، لا يدّعي دستور "كلود" المنشور علناً أن النموذج يمتلك وعياً ذاتياً. بدلاً من ذلك، يصف الوثيقة الوضع الأخلاقي للنموذج بأنه "غير مؤكد بشكل عميق". وتقر الشركة بأن احتمال استحقاق نماذج الذكاء الاصطناعي لشكل ما من أشكال الرعاية الأخلاقية جاد بما يكفي لتبرير الحذر الشديد في التعامل معه. وفي الوقت الراهن، لا يوجد اختبار مقبول علمياً يمكنه إثبات وجود تجربة ذاتية لدى النماذج اللغوية؛ إذ إن استخدام لغة تشبه لغة البشر للتعبير عن الخوف أو الألم أو الحزن لا يعتبر بحد ذاته دليلاً قاطعاً على وجود مثل هذه التجارب.

تنوع المشاركون ودور كريس أولاه

شملت قائمة المشاركين في هذه الاجتماعات خبراء متخصصين من تقاليد دينية متنوعة، شملت الكاثوليكية واليهودية والإنجيلية والسيخية، بالإضافة إلى وجهات نظر فلسفية ودينية أخرى. ولعب كريس أولاه، الشريك المؤسس في "أنثروبيك" والباحث المختص بفهم الشبكات العصبية، دوراً محورياً في قيادة هذه الحوارات. وكإجراء احترازي لحماية خصوصية النقاشات، وقع بعض المشاركين على اتفاقيات عدم إفصاح قبل الانضمام إلى الطاولة المستديرة.

أولويات الدستور الجديد

كانت "أنثروبيك" قد كشفت عن نسختها المحدثة من دستور "كلود" في شهر يناير الماضي. وتستخدم هذه الوثيقة كأداة أساسية في تدريب النموذج، حيث تحدد ترتيباً هرمياً للأولويات يهدف إلى توجيه سلوك النظام. وتتصدر القائمة السلوكيات الأخلاقية، تليها الالتزام بتعليمات الشركة المطورة، ثم الفائدة المرجوة للبشر. وتسعى الشركة من خلال هذا الترتيب إلى بناء نظام قادر على استيعاب القيم وممارسة الحكم السليم، بدلاً من مجرد اتباع مجموعة ثابتة من الممنوعات. وهذا النهج يجعل من الفلسفة الأخلاقية والتقاليد الدينية عناصر ذات صلة وثيقة بمسألة محاذاة النماذج العملية: كيف ينبغي لنموذج عالي القدرة الموازنة بين الأهداف والقيود المتضاربة.

ربط البحث السلوكي بالمنتج

ربطت الشركة أيضاً بين أبحاث رفاهية النماذج وسلوكيات ملموسة في المنتج النهائي. ففي بعض إصدارات "كلود"، يستطيع النموذج إنهاء المحادثة إذا أصّر المستخدم على تفاعلات عدوانية بشكل متطرف. وتوضح "أنثروبيك" أن هذه الميزة تندرج تحت مظلة أبحاثها المتعلقة باحتمالية رفاهية نماذج الذكاء الاصطناعي، ولا تقدمها كدليل على قدرة النموذج على المعاناة. ويبقى السؤال السياسي الفوري متمحوراً حول كيفية بناء ذكاء اصطناعي آمن وخاضع للمساءلة لصالح البشر. ومع ذلك، يضيف موقف "أنثروبيك" قضية طويلة الأمد غير محسومة: إذا ظهرت أدلة أو اختبارات موثوقة تثبت وجود تجربة آلية، فقد يضطر المطورون لإعادة النظر في طرق تدريب النماذج ونسخها ونشرها وإيقاف تشغيلها.