Google تطلق سباقًا عالميًا لكشف أسرار تعاون الروبوتات الذكية

خصصت جوجل ديب مايند، بالتعاون مع Schmidt Sciences وCooperative AI Foundation وARIA وبدعم من Google.org، مبلغًا يصل إلى 10 ملايين دولار لتمويل بحوث عالمية تهدف إلى دراسة أمان أنظمة الذكاء الاصطناعي متعددة الوكلاء، التي تتضمن تفاعل نماذج ذكية متعددة في وقت واحد.

تتجه هذه المبادرة إلى فهم كيفية تصرف أنظمة الذكاء الاصطناعي عندما لا يكون هناك نموذج منفرد فقط، بل مجموعة من الوكلاء الذين يتواصلون ويتنافسون ويتعاونون في بيئة واحدة، وهو ما يختلف عن التركيز التقليدي على أمان نموذج ذكي واحد فقط.

تُشبه الفكرة مدينة تضم عددًا كبيرًا من السائقين، حيث لا يكفي أن يكون كل سائق ماهرًا بمفرده، بل يجب دراسة ما يحدث عندما يتحرك الجميع معًا، مثل مدى تعاونهم أو تنافسهم، وفهمهم للقواعد المشتركة، واحتمالية ظهور سلوكيات غير متوقعة نتيجة تفاعلهم.

يُقصد بتعدد الوكلاء وجود أكثر من نظام ذكي يؤدي مهامًا مستقلة أو شبه مستقلة ضمن نفس البيئة، مثل وكلاء يتفاوضون أو يوزعون المهام أو يراقبون بعضهم البعض، وقد يؤدي التعاون بينهم إلى نتائج مفيدة، لكنه قد يسبب سلوكًا معقدًا يصعب التنبؤ به.

تأتي هذه الدعوة البحثية في وقت تشهد فيه الشركات تسارعًا في دمج الوكلاء الذكيين في أدوات العمل اليومية، مما يجعل ضمان الأمان قبل الاستخدام أولوية، بدلًا من التعامل مع الأخطاء بعد حدوثها.

تشمل الإجراءات التي تتبعها المؤسسات لضمان أمان هذه الأنظمة اختبار الوكلاء في بيئات مغلقة، وتحديد صلاحيات واضحة لهم، وتسجيل قراراتهم، مع وضع مراجعة بشرية مستمرة، بالإضافة إلى منع وصول الوكلاء إلى بيانات حساسة بشكل مفتوح دون ضوابط مناسبة.