الذكاء الاصطناعي والنصائح الطبية.. الخطر الكبير الذي لا يراه أحد

تحمل أدوات الذكاء الاصطناعي الحديثة مخاطر عديدة في مختلف القطاعات، ولكن قلة من هذه المخاطر تهدد حياة المستخدم بشكل مباشر وفوري مثل الاستخدام الطبي الخاطئ، وهو الذي انتشر بكثرة بين مستخدمي تطبيقات الذكاء الاصطناعي.

ولا يقتصر الخطر الذي يمثله الاستخدام الطبي الشخصي لنماذج الذكاء الاصطناعي على النصيحة الخاطئة فقط أو استخدام الأدوية بشكل خاطئ، ولكنه يمتد إلى أن النصيحة التي يسديها للمستخدمين تظل خفية عن الأطباء الذين يحاولون علاج المريض بسبب سياسة الخصوصية الموجودة في نماذج الذكاء الاصطناعي والتي تحتفظ بسجلات المحادثة بعيدا عن أيدي الأطباء.

وتحذر دراسة جديدة شارك فيها باحثون من جامعات بينغهامتون وستانفورد وتكساس إيه آند إم وجامعة إنديانا، ونشرت في مجلة "نيتشر هيلث" (Nature Health)، من أن خطر عدم قدرة الأطباء على الوصول إلى النصائح التي يقدمها نموذج الذكاء الاصطناعي إلى المستخدمين، أكبر من كون النصائح خاطئة في حد ذاتها، وفق تقرير نشره موقع "ديجيتال تريندز" التقني الأمريكي.

وتشير الدراسة إلى مجموعة متنوعة من المخاطر التي تحملها نصائح الذكاء الاصطناعي الطبية، بدءا من احتمالية كون المعلومات خاطئة طبيا أو حتى موجهة بالاعتماد على آليات حقن الأوامر المختلفة.

ولكن أخطرها على الإطلاق هو أن هذه النصائح تكون خفية ولا يمكن لأحد أن يراها باستثناء المستخدم والشركة، وهو ما قد يعيق عمل الأطباء في إنقاذ المريض إذا ازدادت حالته سوءا، وفق تقرير نشرته صحيفة إندبندنت البريطانية.

وتضرب الدراسة مثلا بحالة رجل يبلغ من العمر 60 عاما طلب من "شات جي بي تي" طريقة مناسبة لإزالة الكلوريد من طعامه وحميته اليومية، ليقترح عليه النموذج استخدام بروميد الصوديوم بدلا من ملح الطعام التقليدي، وبالتالي أصيب الرجل بتسمم البروميد ما جعله يعاني من هلوسات وشكوك مرضية لينتهي به الأمر في المستشفى لتلقي العلاج المناسب.