دراسة تكشف مخاطر نصائح الذكاء الاصطناعي الطبية غير القابلة للتتبع

قد تمر الأضرار الصحية الناتجة عن المعلومات الخاطئة التي تقدمها أنظمة الذكاء الاصطناعي دون رصد من قبل الأطباء أو الجهات الرقابية، وذلك لصعوبة تتبع سجلات المحادثات الجارية بين المستخدمين وهذه الروبوتات. هذا التحذير الرئيسي أطلقه فريق بحثي دولي في دراسة جديدة، مشددين على أن غياب آليات التوثيق يجعل تقييم المخاطر الفعلية أمراً بالغ التعقيد.

تحديات رصد الأخطاء الطبية الرقمية

نشرت الدراسة في مجلة «نيتشر هيلث»، وتعاون فيها باحثون من جامعات بينجهامتون وستانفورد وتكساس إيه آند إم وإنديانا. لم تقتصر النتائج على احتمال تقديم معلومات طبية غير دقيقة فحسب، بل امتدت لتشمل إشكالية اكتشاف هذه الأخطاء وتحديد تأثيرها الصحي، خاصة وأن المحادثات تظل محصورة داخل المنصات الرقمية المغلقة.

وعلى خلاف الاستشارات الطبية التقليدية التي تُوثق في السجلات الصحية الرسمية، أو الآثار الجانبية للأدوية التي تُبلغ عبر أنظمة مخصصة، لا تتوافر محادثات الذكاء الاصطناعي أمام الباحثين والأطباء والجهات التنظيمية. هذا النقص في الشفافية يحد بشكل كبير من القدرة على رصد الأخطاء المتكررة وتقييم مخاطرها الحقيقية على المدى الطويل.

حالة تسمم تعكس خطورة الموقف

استشهد الفريق البحثي بحالة رجل يبلغ من العمر 60 عاماً، طلب من روبوت «شات جي بي تي» نصيحة لتقليل الكلوريد في نظامه الغذائي. اقترح عليه النظام استبدال ملح الطعام ببروميد الصوديوم، وبعد اتباع هذه التوصية، أصيب الرجل بتسمم البروميد الذي أدى إلى دخوله المستشفى ومعاناته من الهلوسة والشكوك المرضية.

أبرزت هذه الحادثة صعوبة تحديد مصدر الخطأ بدقة، إذ عجز الأطباء عن معرفة النصيحة المحددة التي تلقاها المريض لأن المحادثة كانت محفوظة داخل منصة الذكاء الاصطناعي ولا يمكن الوصول إليها بسهولة. يرى الباحثون أن غياب آليات فعالة لرصد مثل هذه التفاعلات يجعل اكتشاف الأضرار المرتبطة بالنصائح الطبية الخاطئة أكثر صعوبة وتعقيداً.

مخاطر تتجاوز الأسئلة المباشرة

لا تقتصر المشكلة على المستخدمين الذين يطرحون أسئلة طبية مباشرة فقط، بل تمتد لتشمل الأشخاص الذين يتعرضون لمعلومات صحية مضللة أثناء تصفح الإنترنت العادي. يحدث ذلك من خلال ملخصات الذكاء الاصطناعي أو المنشورات التي تظهر على منصات التواصل الاجتماعي، مما يعرض شريحة أوسع للخطر دون وعي منهم.

واقترح الباحثون مجموعة من الإجراءات للحد من هذه المخاطر، تشمل تمكين المستخدمين من الوصول الكامل إلى سجل محادثاتهم، وتطوير أنظمة قادرة على اكتشاف النصائح الصحية الضارة والإبلاغ عنها تلقائياً. تهدف هذه الخطوات إلى المساعدة على تحديد الأخطاء وفهم آثارها بصورة أفضل وأكثر دقة.

دعوات لمحاسبة الشركات المطورة

كما دعا الخبراء صناع السياسات إلى دراسة إمكانية توسيع نطاق المسؤولية القانونية لتشمل شركات الذكاء الاصطناعي التي تقدم إرشادات طبية. يجب أن تخضع هذه الشركات لمستويات من المساءلة تتناسب مع المخاطر المحتملة للنصائح التي توفرها للمستخدمين حول العالم.

وتسلط الدراسة الضوء على ضرورة التعامل بحذر شديد مع المعلومات الطبية التي تقدمها روبوتات الدردشة، إذ إن أسلوبها الواثق لا يعني بالضرورة أن إجاباتها صحيحة. ويظل الرجوع إلى الأطباء والمتخصصين أمرًا ضروريًا عند اتخاذ القرارات المتعلقة بالتشخيص أو العلاج أو تغيير النظام الغذائي بناءً على حالة صحية معينة.