“مساعد الذكاء الاصطناعي” من جوجل يقدم نصائح صحية خاطئة وقد تكون مميتة للمرضى

كشف تحقيق صحفي موسع أجرته صحيفة الغارديان عن أن ميزة “AI Overviews” (النظرات العامة للذكاء الاصطناعي) التابعة لشركة جوجل، تقدم معلومات صحية خاطئة ومضللة، مما يعرض صحة وحياة المستخدمين للخطر. وتأتي هذه النتائج في وقت يتنامى فيه القلق بشأن موثوقية المعلومات المُولدة بالذكاء الاصطناعي.

إخفاقات خطيرة في نصائح السرطان والأمراض المزمنة

وجد التحقيق عدة حالات مثيرة للقلق، وُصفت من قبل الخبراء بأنها “خطيرة حقاً”:

سرطان البنكرياس: قدمت جوجل نصيحة خاطئة تنصح مرضى سرطان البنكرياس بتجنب الأطعمة عالية الدهون. علقت آنا جويل، مديرة الدعم والبحث في مؤسسة Pancreatic Cancer UK، بأن هذه النصيحة “غير صحيحة تماماً” وقد تكون “مميتة”، لأنها تؤدي إلى فقدان الوزن وإضعاف المريض لدرجة عدم قدرته على تحمل العلاج الكيميائي أو الجراحة المنقذة للحياة.

اختبارات وظائف الكبد: قدمت الملخصات معلومات مضللة حول النطاقات الطبيعية لاختبارات الكبد، دون مراعاة العوامل الحيوية للمريض. وحذرت باميلا هيلي من الصندوق البريطاني لأمراض الكبد من أن هذا قد يؤدي إلى تجاهل المرضى لنتائج غير طبيعية وعدم حصولهم على المتابعة الطبية اللازمة.

سرطان المهبل: عند البحث عن أعراض واختبارات سرطان المهبل، ذكرت الملخصات بشكل غير دقيق أن فحص مسحة عنق الرحم (Pap test) هو اختبار للكشف عن هذا السرطان. وأشارت أثينا لامنيسوس من مؤسسة Eve Appeal الخيرية إلى أن هذه “معلومات خاطئة تماماً” قد تمنع امرأة من فحص أعراض لديها إذا كانت نتيجتها السابقة للمسحة سليمة.

تحذيرات عاجلة من مؤسسات طبية وجمعيات خيرية

أعربت منظمات صحية رائدة عن قلقها البالغ:

صوفي راندال (منتدى معلومات المرضى): “يمكن لملخصات جوجل أن تضع معلومات صحية غير دقيقة في أعلى نتائج البحث، مما يشكل خطراً على صحة الناس.”

ستيفاني باركر (مؤسسة ماري كوري): “يلجأ الناس إلى الإنترنت في لحظات القلق والأزمات. إذا كانت المعلومات التي يتلقونها غير دقيقة أو خارجة عن السياق، فقد تضر بصحتهم بشكل خطير.”

ستيفن باكلي (جمعية مايند للصحة النفسية): بعض النصائح المُقدمة حول حالات مثل الذهان واضطرابات الأكل كانت “خطيرة جداً” و”قد تدفع الناس لتجنب طلب المساعدة.”

رد جوجل والدفاع عن الميزة

دافعت جوجل عن دقة ميزتها، مشيرة في بيان إلى:

أن العديد من الأمثلة الصحية المذكورة كانت “لقطات شاشة غير مكتملة”.

أن الغالبية العظمى من النتائج “توفر معلومات دقيقة” ومربوطة بمصادر ذات سمعة طيبة.

أن معدل دقة “AI Overviews” مماثل لميزات البحث الأخرى مثل “النتائج المميزة” (Featured Snippets).

أن الشركة تستثمر بشكل كبير في جودة هذه الميزة، خاصة في الموضوعات الصحية، وتتخذ الإجراءات اللازمة عند سوء تفسير المحتوى.

ثغرة خطيرة بين الابتكار التقني والمسؤولية المجتمعية

يكشف هذا التحقيق عن فجوة خطيرة بين سرعة نشر تقنيات الذكاء الاصطناعي التوليدية وضرورة ضمان دقتها وسلامتها، خاصة في المجالات الحساسة مثل الصحة. يؤكد الحادث على الحاجة الملحة إلى رقابة أكثر صرامة وشفافية أكبر من قبل الشركات التقنية، وإلى تذكير المستخدمين الدائم بعدم الاعتماد الكلي على هذه الأدوات كبديل للتشخيص الطبي المهني أو المشورة الطبية المؤكدة.

هذا المحتوى تم إعداده باستخدام أدوات الذكاء الاصطناعي.