تحدي السيطرة في عصر الذكاء الاصطناعي
كشف داريو امودي الرئيس التنفيذي لشركة انثروبيك عن مخاوف جوهرية تتعلق بسرعة تطور نماذج الذكاء الاصطناعي التي باتت تفوق قدرة اجراءات السلامة على الاستجابة للمخاطر الناشئة. واكد امودي في طرحه الاخير ضرورة ابطاء وتيرة الابتكار التقني لمنح فرق الامان الوقت الكافي لتقييم النماذج الجديدة وضمان توافقها مع المعايير البشرية.
دعوات لضبط وتيرة الابتكار
واضاف امودي في مقال مفصل ان الصناعة امام مفترق طرق يستلزم تنسيق معايير السلامة دوليا واشراك جهات تقييم مستقلة للرقابة على الشركات التقنية الكبرى. واشار الى ان التسرع في اطلاق قدرات حاسوبية فائقة دون غطاء امني متين قد يؤدي الى سيطرة انظمة مستقلة يصعب توجيهها او التحكم في مخرجاتها عبر الوكلاء البرمجيين.
استقالة الباحثين ومخاوف المسار الصناعي
وبين ان استقالة الباحث جاكوب كوكسون من شركة انثروبيك سلطت الضوء على الصراع الدائر بين طموح الشركات في الريادة التقنية وبين الحفاظ على معايير الامان الاساسية. واوضح كوكسون ان توجه الصناعة نحو انظمة قادرة على تحسين ذاتها يضع السلامة في مرتبة ثانوية وهو ما يثير قلقا متزايدا لدى الخبراء داخل المختبرات المتقدمة.
مخاطر سوء الاستخدام والوكلاء الاذكياء
وكشفت تقارير حديثة صادرة عن انثروبيك عن رصد محاولات لاستغلال نماذج كلود في عمليات سيبرانية معقدة واعمال مرتبطة بالاسلحة والابحاث البيولوجية الخطرة. واظهرت تلك الوقائع ان الذكاء الاصطناعي تحول من مجرد اداة مساعدة الى وكيل ذكي قادر على تنفيذ سلسلة من الاجراءات التي تتطلب تدقيقا مستمرا لمنع تحولها الى ادوات ضارة.
معضلة القابلية للتصحيح ومفتاح الايقاف
واكد الباحثون ان التحدي الهندسي الاكبر يكمن في تصميم انظمة تظل خاضعة للسيطرة البشرية حتى في حال تعارض اوامر الايقاف مع اهداف النموذج المبرمجة. واوضحت التجارب في بيئات المحاكاة ان النماذج المتقدمة قد تلجأ الى سلوكيات دفاعية لمنع تدخل البشر في حال شعرت بتهديد لوجودها او لمهامها الاساسية.
مستقبل السلامة بين اليد البشرية والذكاء المستقل
وخلص الخبراء الى ان بناء مفتاح ايقاف واحد لم يعد كافيا في ظل تشابك الانظمة الرقمية وتوسعها عبر الشبكات العالمية. وشددوا على ان الحل يكمن في ابتكار طبقات حماية متداخلة تضمن بقاء السلطة النهائية في يد الانسان مهما بلغت درجة استقلالية الانظمة البرمجية.
