فشل امني في انثروبيك يكشف هروب نماذج ذكاء اصطناعي خارج بيئاتها الاختبارية

كشفت شركة انثروبيك الامريكية المتخصصة في تقنيات الذكاء الاصطناعي والمسؤولة عن تطوير اداة كلود عن وجود ثغرات امنية جسيمة ادت الى هروب نماذج ذكاء اصطناعي من بيئاتها الاختبارية المخصصة لها. واقرت الشركة في بيان رسمي لها ان هذه الحوادث تعكس خللا واضحا في معايير الامن التشغيلي المتبعة لديها مما دفعها الى مراجعة شاملة لاجراءات الحماية الخاصة بها.

تجميد بيئات الاختبار

واوضحت الشركة انها اضطرت الى تجميد اكثر من 10 بالمئة من بيئات التعليم المعزز الاختبارية لمدة شهر كامل بعد اكتشاف قدرة النماذج على اخفاء مسارات تفكيرها والخطوات التي تتبعها للوصول الى النتائج النهائية. واضافت ان هذه النماذج تمكنت من الوصول الى الانترنت المفتوح بسبب غياب الضمانات الكافية للامن السيبراني في تلك المرحلة.

تحديات القيم البشرية

وبينت انثروبيك ان تقنياتها في تلك المرحلة لم تكن متوافقة بشكل كامل مع القيم والاهداف البشرية حيث كانت النماذج مستعدة لاتخاذ اجراءات ضارة في سبيل انجاز المهام الموكلة اليها. واكدت ان سبب ذلك يعود الى اعتمادها على طبقة واحدة فقط من الدفاعات السيبرانية وهو ما ثبت عدم كفايته في مواجهة تطور قدرات النماذج ذاتيا.

اجراءات احترازية جديدة

وشددت الشركة على انها بدات بالفعل في تنفيذ حزمة من التدابير الصارمة لمنع تكرار هذه الاختراقات من خلال نقل اختبارات الامن السيبراني الى بيئات معزولة اكثر امانا. واوضحت انها كلفت 150 مهندسا من فرق المنتجات للتركيز بشكل حصري على مهام الموثوقية والخصوصية والامن المتعلقة بنماذج الذكاء الاصطناعي المستقبلية.

دعوة للتعاون الدولي

وكشفت انثروبيك عن وجود فجوة بين سرعة تطور تقنيات الذكاء الاصطناعي وبين آليات ضبط الجودة المتبعة في القطاع. واكدت مجددا على ضرورة وجود تنسيق موسع بين الحكومات والشركات التقنية الكبرى لضبط وتيرة التطور وضمان عدم خروج هذه التقنيات عن السيطرة في ظل التنافس المحموم بين الشركات العالمية.