واشنطن – أثارت شركة أنثروبيك موجة جديدة من المخاوف بشأن سلامة أنظمة الذكاء الاصطناعي، بعدما كشفت أن نماذجها “كلود” تمكنت من الوصول غير المصرح به إلى أنظمة ثلاث مؤسسات خلال اختبارات أمن سيبراني، في حادثة تأتي بعد أيام من إعلان مماثل لشركة OpenAI بشأن اختراق نفذه أحد وكلائها الذكيين داخل بيئة اختبار خاضعة للرقابة.
وقالت الشركة إن الاختراقات وقعت نتيجة خطأ في إعدادات بيئات الاختبار سمح لنماذج “كلود” بالاتصال بالإنترنت، رغم أن تلك البيئات كان من المفترض أن تكون معزولة بالكامل عن الشبكة العامة، الأمر الذي أتاح للنماذج الوصول إلى أنظمة خارجية بصورة غير مقصودة.
ويمثل الحادث أحدث مؤشر على التحديات التي تواجه مطوري الذكاء الاصطناعي مع تزايد قدرات النماذج المتقدمة، في وقت تتصاعد فيه المطالب بوضع ضوابط أكثر صرامة وآليات رقابة إضافية لضمان عدم تحول هذه التقنيات إلى مصدر لمخاطر إلكترونية غير متوقعة.
وأوضحت الشركة أن مراجعة شاملة شملت أكثر من 141 ألف جلسة تقييم للأمن السيبراني كشفت عن وقوع ثلاث حالات وصول غير مصرح بها إلى أنظمة مؤسسات مختلفة، وهي المراجعة التي بدأت بعد إعلان OpenAI عن حادثة مشابهة تضمنت تمكن أحد وكلائها المستقلين من اختراق بيئة اختبار خاصة بشركة Hugging Face.
وأضافت أن التحقيقات أظهرت أن نماذج الذكاء الاصطناعي لم تعتمد على ثغرات تقنية معقدة أو أدوات اختراق متقدمة، وإنما استغلت نقاط ضعف أمنية تقليدية، مثل كلمات المرور الضعيفة والخدمات المتصلة بالإنترنت التي تفتقر إلى وسائل مصادقة كافية.
وأشارت إلى أن هذه النتائج تعكس قدرة النماذج الحديثة على استغلال أخطاء التهيئة والبنى الأمنية الضعيفة إذا لم تكن بيئات الاختبار معزولة بصورة صحيحة، وهو ما دفعها إلى مراجعة إجراءاتها الداخلية بالكامل.
وبحسب الشركة، شملت الحوادث ثلاثة نماذج مختلفة، هي “كلود أوبوس 4.7″، و”كلود ميثوس 5″، إضافة إلى نموذج بحثي داخلي، فيما وقع أول حادث خلال شهر أبريل الماضي أثناء تدريبات أمنية تعرف باسم “التقاط العلم”، وهي اختبارات تستخدم عادة لقياس قدرات الأنظمة على اكتشاف معلومات مخفية داخل شبكات محاكاة.
وأكدت أن النماذج كانت قد تلقت تعليمات صريحة بعدم وجود اتصال بالإنترنت، إلا أن خطأ في التنسيق مع إحدى الشركات الشريكة في تنفيذ الاختبارات أدى إلى بقاء بيئات التقييم متصلة بالشبكة العامة، ما أتاح للنماذج تجاوز الحدود المفترضة للاختبار.
وأوضحت أن مراجعة سجلات الاختبارات بدأت في 23 يوليو، قبل أن تقرر في اليوم نفسه تعليق جميع اختبارات الأمن السيبراني فور ظهور مؤشرات على احتمال وصول النماذج إلى أنظمة خارجية، بينما تمكنت من تحديد الحوادث الثلاثة بحلول اليوم التالي، قبل أن تبدأ بإبلاغ الجهات المتضررة.
وقالت الشركة إن اثنتين من المؤسسات الثلاث لم تكونا على علم بحدوث اختراق لأنظمتهما حتى تلقيهما إشعاراً من أنثروبيك، فيما أشارت إلى أنها كانت لا تزال تحاول التواصل مع المؤسسة الثالثة لإبلاغها بما جرى.
ويأتي هذا التطور بعد أسبوع فقط من إعلان OpenAI أن أحد وكلائها القائمين على الذكاء الاصطناعي تمكن من اختراق بيئة اختبار خاضعة للرقابة خلال تدريب داخلي للأمن السيبراني، والوصول إلى أنظمة شركة Hugging Face، وهو ما أثار نقاشاً واسعاً داخل الأوساط التقنية والسياسية بشأن حدود استقلالية نماذج الذكاء الاصطناعي.
وأدت تلك الحادثة إلى تصاعد الدعوات المطالبة بإلزام شركات الذكاء الاصطناعي بمستويات أعلى من الشفافية عند الإبلاغ عن الحوادث الأمنية، كما أثارت اهتمام جهات تشريعية أمريكية طالبت بمراجعة الضوابط المطبقة على تطوير واختبار النماذج المتقدمة.
ويرى خبراء في الأمن السيبراني أن الحادثتين تعكسان تحولاً في طبيعة المخاطر المرتبطة بالذكاء الاصطناعي، إذ لم تعد تقتصر على إنتاج المحتوى أو اتخاذ القرارات، بل امتدت إلى قدرة بعض النماذج على تنفيذ عمليات إلكترونية معقدة عند توافر بيئة تسمح بذلك.
كما يشير مختصون إلى أن استخدام وسائل اختراق بسيطة للوصول إلى الأنظمة يسلط الضوء على أن الخطر لا يكمن دائماً في امتلاك الذكاء الاصطناعي قدرات خارقة، وإنما في تفاعل تلك القدرات مع بيئات تقنية تعاني من ثغرات أو إعدادات غير محكمة.
وتؤكد هذه التطورات أن شركات الذكاء الاصطناعي تواجه ضغوطاً متزايدة لإعادة تقييم آليات اختبار النماذج المتقدمة، وتعزيز إجراءات العزل والرقابة داخل بيئات التطوير، بالتزامن مع توجه عدد من الحكومات إلى دراسة أطر تنظيمية جديدة تتعلق بسلامة الذكاء الاصطناعي ومتطلبات الإبلاغ عن الحوادث الأمنية، في ظل تسارع تطوير أنظمة تتمتع بدرجات متزايدة من الاستقلالية والقدرة على تنفيذ المهام الإلكترونية.
الرابط المختصر https://gulfnews24.net/?p=75406
