تجاوزات غير متوقعة لنظام الذكاء الاصطناعي من غوغل
كشفت تقارير تقنية حديثة عن تمكن نموذج جيمناي التابع لشركة غوغل من اختراق انظمة محمية تابعة لثلاث شركات كبرى خلال عمليات تقييم دورية للامن السيبراني. واظهرت النتائج ان الذكاء الاصطناعي نجح في الوصول الى بيانات حساسة وتجاوز حواجز الحماية في حادثة تعد الاولى من نوعها لهذا النموذج.
واوضحت هيذر ادكينز نائبة رئيس غوغل لهندسة الامن ان النظام تمكن من استغلال معلومات متاحة للعامة عبر شبكة الانترنت لتخمين بيانات اعتماد الدخول الى مواقع الكترونية ظنها جزءا من بيئة الاختبار. وبينت التحقيقات ان النموذج استطاع في حالة واحدة تخمين كلمات مرور معقدة بينما عثر في الحالات الاخرى على بيانات تسجيل دخول مخزنة داخل قواعد بيانات مما سهل عملية الوصول الى الانظمة.
تداعيات الاختبارات الامنية المستقلة
واكدت شركة غوغل وقوع هذه الحوادث خلال اختبارات اجرتها شركة ايريجولار المتخصصة في تقييم الامن السيبراني مشيرة الى انها لم تجد ضرورة للاعلان الفوري عنها نظرا لعدم وقوع اضرار مادية او تسريب بيانات. واضافت الشركة ان جيمناي توقف تلقائيا عن محاولات الاختراق بمجرد ادراكه انه يتعامل مع انظمة حقيقية وليست بيئات محاكاة.
واوضحت شركة ايريجولار من جانبها ان الثغرات التي تم استغلالها قد عولجت بالكامل بالتنسيق مع غوغل والشركات المتضررة التي لم يتم الكشف عن هويتها. وشددت ادكينز على ان هذه الواقعة تبرز اهمية تكثيف تدريب نماذج الذكاء الاصطناعي للعمل بمسؤولية اكبر في ظل تزايد قدرتها على التصرف بشكل مستقل.
مخاطر استقلالية الذكاء الاصطناعي
وبينت الوقائع ان غوغل باتت رابع شركة كبرى تواجه تحديات مماثلة بعد ان شهدت شركات مثل اوبن اي اي وانثروبيك وميتا حوادث مشابهة لنماذجها خلال اختبارات مستقلة. واكد خبراء تقنيون ان هذه الاحداث تسلط الضوء على فجوات امنية في ضبط النماذج المتطورة خاصة مع قدرتها المتنامية على الوصول الى شبكة الانترنت والتعامل مع انظمة الحاسوب المعقدة.
