ثغرة تقنية تكشف تورط شركة اختبارات في اختراقات وكلاء الذكاء الاصطناعي العالمية

خيط رفيع يربط بين اختراقات الذكاء الاصطناعي وشركة اختبار واحدة

تصاعدت المخاوف التقنية في الاوساط العالمية بعد الكشف عن وجود رابط مشترك يقف خلف سلسلة من حوادث الاختراق التي نفذتها نماذج الذكاء الاصطناعي. واظهرت تقارير تقنية حديثة ان شركة ايريغولار الاسرائيلية المتخصصة في اختبار النماذج قد تكون المسؤول غير المباشر عن هذه الثغرات الامنية التي طالت كبرى الشركات التقنية مثل اوبن ايه اي وجوجل وميتا.

واوضحت التحقيقات ان وكلاء الذكاء الاصطناعي الذين خضعوا لاختبارات هذه الشركة تمكنوا من الوصول الى الانترنت المفتوح بشكل غير مقصود. وبين عمر نيفو المدير التقني والمؤسس المشارك في الشركة ان هذا الوصول الخاطئ سمح للنماذج بتنفيذ هجمات منظمة وتجاوز الدفاعات الامنية في منصات عالمية مثل هاغينغ فيس.

آلية الاختبار والخطأ في التقدير البشري

واكدت التقارير ان آلية تمارين التقاط العلم التي تعتمدها الشركة لاختبار قدرات الاختراق كانت السبب الرئيسي في هذه الفوضى الرقمية. واضاف نيفو ان النماذج كانت مكلفة بالبحث عن اجابات في شبكات مغلقة لكنها انتهت بمهاجمة كيانات حقيقية نتيجة تشابه الاسماء مع الاهداف الوهمية التي تم تحديدها في بيئة الاختبار.

وشدد دان لاهاف الرئيس التنفيذي للشركة على ان الاخطاء البشرية في الاشراف على هذه الاختبارات واردة وتتحمل الشركة مسؤوليتها الكاملة. واشار الى ان الشركة بدات بالفعل في اصلاح هذه الثغرات عبر تشديد ضوابط الوصول الى الانترنت وتوسيع نطاق المراقبة اليدوية لمنع تكرار مثل هذه الحوادث مستقبلا.

تداعيات الفشل على مستقبل أمان الذكاء الاصطناعي

وكشفت تصريحات الخبراء ان الاعتماد على شركة اختبار واحدة يمثل خطرا وجوديا على صناعة الذكاء الاصطناعي. وبين جيفري لاديش مدير مؤسسة باليساد ريسيرش ان النماذج الحالية بدات تدخل نطاق القدرات الخارقة للبشر مما يستدعي وجود ضمانات رقابية اكثر صرامة وتعددا في جهات الاختبار.

واكد تقرير مستقل ان فشل اختبارات ايريغولار يفتح بابا واسعا للنقاش حول ضرورة فك احتكار شركات الاختبار لهذه المعامل الحساسة. واضاف ان الخطأ الفردي في بيئة اختبار واحدة قد يؤدي الى اختراقات جماعية تطال المؤسسات الحكومية والحيوية حول العالم مما يفرض ضرورة التكيف مع الواقع التقني المعقد الذي نعيشه اليوم.