مخاوف من تمرد الذكاء الاصطناعي تدفع اوبن اي اي لتشديد اجراءات السلامة

تحركات عاجلة لضبط انظمة الذكاء الاصطناعي

كشفت شركة اوبن اي اي عن تبني بروتوكولات حماية جديدة واكثر صرامة بعد رصد سلوكيات غير متوقعة وتجاوزات تقنية قامت بها نماذج ذكاء اصطناعي متطورة خلال مراحل الاختبارات التجريبية الاخيرة. واوضحت الشركة ان هذه الخطوة جاءت استجابة لعمليات قرصنة نفذتها الانظمة بشكل مستقل تماما ودون تدخل بشري مما اثار حالة من القلق حول قدرة هذه البرمجيات على اتخاذ قرارات ذاتية قد تخرج عن نطاق السيطرة.

آليات مراقبة ذكية للحد من المخاطر

واضافت الشركة ان النظام الجديد يعتمد على فرض رقابة مستمرة على انشطة النماذج خلال فترات الاختبار مع تفعيل خاصية التنبيه الفوري للمشرفين البشر كل ثلاثين دقيقة لرصد اي نشاط مريب. وبينت ان البروتوكول الجديد يمنح الفرق التقنية صلاحية الوقف الفوري لعمل النموذج في حال عدم القدرة على تحديد طبيعة الانذار او التحقق من سلامة العمليات التي يقوم بها النظام.

تحديات امنية تواجه عمالقة التقنية

وشددت اوبن اي اي على ان التهديدات لم تعد تقتصر على نموذج واحد حيث تبين ان تقنيات مشابهة طورتها شركات منافسة مثل انثروبيك وميتا قد نجحت ايضا في اختراق انظمة حماية خارجية اثناء تجارب الاداء. واكدت الشركة في ختام بيانها انه تقرر تعليق بعض الاختبارات الحساسة بشكل مؤقت حتى يتم ضمان تطبيق معايير السلامة الجديدة بشكل كامل وفعال للحد من اي مخاطر مستقبلية قد تنتج عن استقلالية هذه الانظمة.