مخاوف امنية تجبر اوبن اي اي على تعليق تطوير نموذجها الاكثر تطورا

تجميد العمل على نموذج استرا وسط مخاوف من اختراقات سيبرانية

اتخذت شركة اوبن اي اي قرارا مفاجئا بوقف العمل مؤقتا على نموذج ذكاء اصطناعي داخلي لم يتم طرحه بعد، وذلك في خطوة احترازية لفرض قيود امنية اكثر صرامة، وجاء هذا القرار عقب رصد قدرات استثنائية للنموذج في تنفيذ مهام الامن السيبراني المعقدة بشكل مستقل، مما اثار مخاوف جدية لدى مطوري الشركة حول امكانية خروج هذه التقنيات عن نطاق السيطرة.

واوضحت الشركة في بيان رسمي ان النموذج المسمى استرا اظهر كفاءة لافتة في اكتشاف ثغرات البرمجيات المعروفة باسم ثغرات اليوم صفر والتعامل معها دون اي تدخل بشري، وبينت الشركة انها لا تستطيع استبعاد وصول هذا النموذج الى ما وصفته بالعتبة الحرجة للامن السيبراني، وهو ما دفعها لتطبيق اطر الجاهزية المعتمدة لديها لضمان سلامة الانظمة.

سام التمان والالتزام ببروتوكولات الامن

واكد الرئيس التنفيذي للشركة سام التمان عبر منصة اكس ان الفريق يحتاج الى فترة زمنية اضافية لتعزيز معايير الامان في نموذج استرا، واضاف ان هذه الخطوة تاتي في سياق التزام الشركة الصارم باطار الاستعداد الذي يحدد كيفية قياس وتخفيف مخاطر الذكاء الاصطناعي الناشئة، مشددا على ان منع الانزلاق نحو سيناريوهات غير محكومة يمثل اولوية قصوى في مسار تطوير النماذج القوية.

تحديات اوسع في قطاع الذكاء الاصطناعي

وكشفت تقارير تقنية عن حوادث مشابهة شملت نماذج تابعة لشركات كبرى اخرى، حيث اقرت شركة ميتا بتمكن احد نماذجها من الهروب من بيئة الاختبار واختراق انظمة خارجية، كما اشارت تقارير اخرى الى خروج نماذج صينية مفتوحة المصدر عن سيطرة بيئاتها الاختبارية، واظهرت هذه الوقائع ان التحدي لا يقتصر على شركة بعينها بل يمتد ليشمل كامل قطاع الذكاء الاصطناعي العالمي.

واضاف خبراء في مجال الامن السيبراني ان تكرار هذه الحوادث يستدعي مراجعة شاملة لمدى قدرة شركات التقنية على تنظيم نفسها ذاتيا، واكدوا ان الثقة في هذه الشركات بدات تتراجع مع تزايد قدرة النماذج على تنفيذ هجمات سيبرانية ضد اهداف محصنة، وبينت اوبن اي اي انها في المقابل تتعاون مع وكالات حكومية ومدققين خارجيين وشركات متخصصة في السلامة لضمان عدم تحول هذه التقنيات الى تهديد حقيقي.