بسبب معلومات طبية.. «جوجل» تزيل ملخصات الذكاء الاصطناعي
بسبب معلومات خاطئة ومضللة أزالت «جوجل» بعض ملخصاتها الصحية المدعومة بالذكاء الاصطناعي بعد أن كشف تحقيق أجرته صحيفة «الجارديان» البريطانيةعن تعرض المستخدمين لخطر الضرر.
ملخصات مدعومة بالذكاء الاصطناعي
وقالت الشركة إن ملخصاتها المدعومة بالذكاء الاصطناعي، والتي تستخدم الذكاء الاصطناعي التوليدي لتقديم لمحات سريعة عن المعلومات الأساسية حول موضوع أو سؤال معين، «مفيدة» و«موثوقة»، لكن بعض هذه الملخصات، التي تظهر في أعلى نتائج البحث، قدمت معلومات صحية غير دقيقة، مما عرَّض المستخدمين لخطر الضرر.
وفي إحدى الحالات التي وصفها الخبراء بأنها «خطيرة» و«مقلقة»، قدمت «جوجل» معلومات زائفة حول اختبارات وظائف الكبد الحاسمة، ما قد يجعل مرضى الكبد الخطير يعتقدون خطأً أنهم أصحاء، ووجدت صحيفة «الجارديان» أن كتابة عبارة «ما هو المعدل الطبيعي لاختبارات الدم للكبد» تُظهر عدداً هائلاً من الأرقام، مع القليل من السياق، ودون مراعاة جنسية المريض أو جنسه أو عرقه أو عمره.
وفي سياق متصل، قال خبراء إن ما تُصنّفه خدمة «نظرة عامة على نتائج فحوصات الكبد» من «جوجل» على أنه طبيعي قد يختلف اختلافاً كبيراً عما يُعتبر طبيعياً في الواقع، وقد تؤدي هذه الملخصات إلى اعتقاد المرضى المصابين بأمراض خطيرة خطأً بأن نتائج فحوصاتهم طبيعية، مما يدفعهم إلى عدم حضور مواعيد المتابعة الطبية.
نطاق طبيعي لفحوصات الدم
بعد التحقيق، أزالت الشركة خدمة «نظرة عامة على نتائج فحوصات الكبد» من نتائج البحث عن «ما هو النطاق الطبيعي لفحوصات الدم الخاصة بالكبد» و«ما هو النطاق الطبيعي لفحوصات وظائف الكبد».
وقال متحدث باسم «جوجل»: «لا نُعلّق على عمليات الإزالة الفردية من نتائج البحث، في الحالات التي تُغفل فيها خدمة «نظرة عامة على نتائج فحوصات الكبد» بعض السياق، نعمل على إجراء تحسينات شاملة، كما نتخذ الإجراءات اللازمة وفقاً لسياساتنا عند الاقتضاء».
وقالت فانيسا هيبديتش، مديرة الاتصالات والسياسات في مؤسسة «بريتيش ليفر ترست» الخيرية المعنية بصحة الكبد: «هذا خبر ممتاز، ويسرّنا أن نرى إزالة خدمة (نظرة عامة على نتائج فحوصات الكبد) من (جوجل) في هذه الحالات»، وتابعت: «مع ذلك، إذا طُرح السؤال بطريقة مختلفة، فقد تُعرض نتائج مُضللة من الذكاء الاصطناعي، ولا نزال قلقين من أن تكون المعلومات الصحية الأخرى التي يُنتجها الذكاء الاصطناعي غير دقيقة ومُربكة».
وجدت صحيفة «الجارديان» أن كتابة عبارات مُختلفة قليلاً عن الاستعلامات الأصلية في «جوجل»، مثل «النطاق المرجعي لاختبار وظائف الكبد» أو «النطاق المرجعي لاختبار وظائف الكبد»، تُؤدي إلى ظهور نتائج مُضللة من الذكاء الاصطناعي، وقد أعرب هيبديتش عن قلقه البالغ حيال ذلك.
وأفادت الصحيفة: «يُعدّ اختبار وظائف الكبد مجموعة من تحاليل الدم المُختلفة. إن فهم النتائج والخطوات التالية أمر مُعقد ويتطلب أكثر بكثير من مُقارنة مجموعة من الأرقام، لكن نتائج الذكاء الاصطناعي تُقدِّم قائمة بالاختبارات بخط عريض، مما يُسهّل على القراء إغفال أن هذه الأرقام قد لا تكون صحيحة بالنسبة لاختبارهم، بالإضافة إلى ذلك، لا تُحذّر نتائج الذكاء الاصطناعي من أن الشخص قد يحصل على نتائج طبيعية لهذه الاختبارات بينما يُعاني من مرض كبدي خطير ويحتاج إلى رعاية طبية مُستمرة. هذا التطمين الزائف قد يكون ضاراً للغاية».
إيقاف ميزة الذكاء الاصطناعي
إلى ذلك، أعلنت «جوجل»، التي تستحوذ على 91 % من سوق محركات البحث العالمية، أنها تُراجع الأمثلة الجديدة التي قدمتها لها صحيفة «الغارديان».
وقال هيبديتش: «إنّ ما يُقلقنا أكثر هو التركيز على نتيجة بحث واحدة، فبإمكان (جوجل) ببساطة إيقاف ميزة (نظرة عامة على الذكاء الاصطناعي) لهذا السبب، لكن هذا لا يُعالج المشكلة الأكبر المتعلقة بهذه الميزة في مجال الصحة».
ورحّبت سو فارينغتون، رئيس منتدى معلومات المرضى، الذي يُعنى بنشر المعلومات الصحية المبنية على الأدلة للمرضى والجمهور والعاملين في مجال الرعاية الصحية، بإزالة الملخصات، لكنها أعربت عن استمرار مخاوفها، وأضافت: «هذه نتيجة جيدة، لكنها مجرد خطوة أولى نحو الحفاظ على ثقة الجمهور في نتائج بحث (جوجل) المتعلقة بالصحة. لا تزال هناك أمثلة كثيرة على تقديم (جوجل) لمعلومات صحية غير دقيقة من خلال ميزة (نظرة عامة على الذكاء الاصطناعي)».