"AI Overviews" من جوجل تقدم معلومات مضللة للمستخدمين
كشف تحقيق حديث لصحيفة "ذا جارديان" البريطانية، أن أداة "AI Overviews" التي تعتمد عليها شركة جوجل في تقديم ملخصات معلومات باستخدام تقنيات الذكاء الاصطناعي التوليدي، يقدم معلومات مضللة تعرض المستخدمين.
AI Overviews تقدم معلومات تعرض المستخدمين للوفاة
جاء في التحقيق أن هذه الأداة قدمت معلومات صحية خاطئة ومضللة للمستخدمين، مما يعرض حياتهم للخطر، خصوصًا عندما يتعلق الأمر بمواضيع حساسة مثل السرطان ووظائف الكبد والسرطانات النسائية.
في إحدى الحالات التي وصفها الخبراء بـ"الخطيرة جدًا"، نصحت الأداة مرضى سرطان البنكرياس بتجنب الأطعمة التي تحتوي على نسب عالية من الدهون، وهو ما يتناقض مع التوصيات الطبية الحالية وقد يزيد من خطر الوفاة.
وفي حالات أخرى، أظهرت الأداة معلومات غير دقيقة حول فحوصات الكبد، مما قد يعطي المرضى انطباعًا خاطئًا عن حالتهم الصحية، وتم رصد معلومات مضللة حول اختبارات سرطان النساء، قد تدفع البعض إلى تجاهل أعراض خطيرة.
ورغم هذه الأخطاء، قالت جوجل إن أغلب الملخصات التي تقدمها الأداة صحيحة وموثوقة، مشيرة إلى أنها تعتمد على مصادر معروفة وتدعو المستخدمين دائماً لاستشارة الخبراء في المواضيع الصحية.
وأوضحت الشركة أنها تراجع باستمرار جودة المعلومات التي تقدمها وتسعى لتحسين دقة الأداة، لكنها لم تستبعد وجود حالات تحتوي على أخطاء نتيجة التفسيرات غير الدقيقة لمحتوى الإنترنت.
ويأتي هذا التحقيق في ظل تزايد المخاوف العالمية من تأثير الذكاء الاصطناعي على صحة ورفاهية المستخدمين، خاصة في المجالات التي تتطلب دقة عالية كالطب والمالية.
ولفتت منظمات صحية إلى أن الاعتماد على هذه التقنيات بدون رقابة قد يؤدي إلى أضرار جسيمة، خصوصًا عندما يلجأ الناس إليها في لحظات حرجة من حياتهم، وطالبت الجهات المعنية بوضع معايير أكثر صرامة لمراجعة المعلومات الصحية التي تنشر عبر تقنيات الذكاء الاصطناعي.
وتحاول جوجل مواجهة هذه التحديات من خلال تحديث أنظمة الذكاء الاصطناعي وتحسين قدراتها على فهم السياق، لكن الخبراء يؤكدون أن هذه التقنيات ما زالت في مراحل تطور تحتاج إلى إشراف بشري دقيق لضمان سلامة المستخدمين.
ويبقى السؤال حول مدى قدرة هذه الأدوات على الموازنة بين السرعة في تقديم المعلومات ودقتها، وهو تحدٍ يفرضه التطور السريع للتكنولوجيا على الشركات والمستهلكين على حد سواء.