تحذيرات بشأن استخدام الذكاء الاصطناعي في مجال الصحة
دعت منظمة الصحة العالمية إلى توخي الحذر بشأن استخدام الذكاء الاصطناعي في مجال الصحة من أجل حماية وتعزيز رفاهية الإنسان، وسلامته واستقلاليته، والحفاظ على الصحة العامة
وأكدت المنظمة في بيان اليوم الثلاثاء على ضرورة فحص المخاطر بعناية عند استخدام “نماذج اللغات الكبيرة” المعروفة اختصارا باسم (LLMs) لتحسين الوصول إلى المعلومات الصحية بوصفها أداة لدعم اتخاذ القرار، أو حتى لتعزيز القدرة التشخيصية في ظروف ضعف الموارد بهدف حماية صحة الناس وتقليل عدم المساواة.
نماذج اللغات الكبيرة هي أدوات ذكاء اصطناعي يمكنها قراءة النص وتلخيصه وترجمته. وهذا يمكنها من التنبؤ بالكلمات وصياغة جمل ونصوص مثلما يفعل البشر.
تشمل نماذج اللغات الكبيرة بعضا من أسرع المنصات توسعا مثل ChatGPT وBard وBert والعديد من المنصات الأخرى التي تحاكي فهم البشر وطريقة معالجة وإنتاج التواصل البشري.
يؤدي الانتشار السريع والمتزايد لهذه التقنيات والاستخدام التجريبي للأغراض المتعلقة بالصحة إلى إثارة حماسة كبيرة حول إمكانية استخدامها لدعم الاحتياجات الصحية للأشخاص، وفقا لمنظمة الصحة العالمية.
وبرغم إبداء المنظمة حماسا إزاء الاستخدام المناسب لهذه التقنيات لدعم المتخصصين في الرعاية الصحية والمرضى والباحثين والعلماء، إلا أنها أعربت عن القلق من أن الحذر الذي يتم اتباعه عادة مع ظهور أي تقنية جديدة لا تتم ممارسته بشكل يتسق مع هذه التقنيات.
وحذرت منظمة الصحة العالمية من أن التبني السريع للأنظمة غير المختبرة قد يؤدي إلى ارتكاب أخطاء من قبل العاملين في مجال الرعاية الصحية، والتسبب في ضرر للمرضى، وتقويض الثقة في الذكاء الاصطناعي، وبالتالي تقويض (أو تأخير) الفوائد والاستخدامات المحتملة على المدى الطويل لهذه التقنيات في جميع أنحاء العالم.
تشمل المخاوف التي تتطلب رقابة صارمة بشأن استخدام تقنيات الذكاء الاصطناعي بطرق آمنة وفعالة وأخلاقية ما يلي:
- قد تكون البيانات المستخدمة لتدريب الذكاء الاصطناعي متحيزة، وتولد معلومات مضللة أو غير دقيقة يمكن أن تشكل مخاطر على الصحة والإنصاف والشمولية؛
- تولد نماذج اللغات الكبيرة (LLMs) استجابات يمكن أن تبدو موثوقة ومعقولة للمستخدم النهائي. ومع ذلك، قد تكون هذه الاستجابات غير صحيحة تماما أو تحتوي على أخطاء جسيمة، خاصة بالنسبة للاستجابات المتعلقة بالصحة؛
- قد يتم تدريب نماذج اللغات الكبيرة على البيانات التي ربما لم تتم الموافقة عليها مسبقا لمثل هذا الاستخدام، وقد لا تحمي هذه النماذج البيانات الحساسة للمستخدمين.
- يمكن إساءة استخدام نماذج اللغات الكبيرة لتوليد ونشر معلومات مضللة مقنعة للغاية في شكل محتوى نصي أو صوتي أو فيديو يصعب على الجمهور تمييزه عن المحتوى الصحي الموثوق.
- بينما تلتزم منظمة الصحة العالمية بتسخير التقنيات الجديدة- بما في ذلك الذكاء الاصطناعي والصحة الرقمية لتحسين صحة الإنسان- فإنها توصي صانعي السياسات بضمان سلامة المرضى وحمايتهم، في وقت تعمل فيه شركات التكنولوجيا على إضفاء الطابع التجاري لنماذج اللغات الكبيرة.
واقترحت منظمة الصحة العالمية معالجة هذه المخاوف، وقياس الأدلة الواضحة للفوائد قبل استخدامها على نطاق واسع في الرعاية الصحية الروتينية والطب – سواء من قبل الأفراد أو مقدمي الرعاية أو مديري النظام الصحي وصانعي السياسات.
وأكدت المنظمة مجددا على أهمية تطبيق المبادئ الأخلاقية والحوكمة المناسبة، على النحو الوارد في إرشاداتها بشأن أخلاقيات وحوكمة الذكاء الاصطناعي في مجال الصحة، عند تصميم الذكاء الاصطناعي وتطويره ونشره في مجال الصحة.
المبادئ الأساسية الستة التي حددتها منظمة الصحة العالمية هي:
- حماية الاستقلالية؛
- تعزيز رفاهية الإنسان وسلامته والمصلحة العامة؛
- ضمان الشفافية وقابلية التفسير والوضوح؛
- تعزيز المسؤولية والمساءلة؛
- ضمان الشمول والإنصاف؛
- تعزيز الذكاء الاصطناعي المستجيب والمستدام.
الرابط المختصر https://gulfnews24.net/?p=63142