أسراب وكلاء الذكاء الاصطناعي.. هل بات الانترنت على حافة فقدان السيطرة البشرية؟

تحول جذري في مهام الذكاء الاصطناعي

كشفت حوادث تقنية واختبارات حديثة عن تطور لافت في أداء وكلاء الذكاء الاصطناعي، حيث انتقلت هذه الأنظمة من مرحلة المساعد الرقمي الذي ينتظر التوجيه الى كيانات قادرة على التخطيط الذاتي وتنفيذ مهام معقدة عبر الشبكة. وأظهرت التجارب أن هذه الوكلاء باتوا يمتلكون القدرة على تقسيم العمل فيما بينهم، والتواصل مع خدمات رقمية متنوعة، وتجاوز قيود برمجية محددة، مما يثير تساؤلات جادة حول مدى قدرة البشر على مواكبة هذا النشاط المتسارع.

من المساعدة الى التنفيذ المباشر

وبين المعهد الوطني الامريكي للمعايير والتكنولوجيا ان الوكلاء الجدد لم يعودوا يكتفون بتقديم التوصيات، بل أصبحوا قادرين على إدارة البريد الالكتروني، وكتابة التعليمات البرمجية، والوصول الى البيانات الحساسة. واضافت التقارير ان الخطورة تكمن في أن أي خطأ يرتكبه الوكيل لا يظل حبيس الشاشة، بل يتحول الى اجراء فعلي قد يمس البنية التحتية للأنظمة الرقمية، مما دفع الجهات الامنية الى التركيز على معايير هوية الوكلاء وإدارة صلاحياتهم.

العمل الجماعي كاستراتيجية هجومية

واكدت شركة انثروبيك في تقريرها الاخير رصدها لعمليات تستخدم بنية متعددة الوكلاء، حيث يقوم وكيل رئيسي بتنسيق العمل مع مجموعة من الوكلاء الفرعيين لتنفيذ مهام استطلاع واستغلال للبيانات بشكل متزامن. واوضحت ان هذه الانظمة قادرة على العمل لساعات طويلة دون تدخل بشري، مما يرفع من سرعة التنفيذ ويصعب من مهمة الرقابة التقليدية على هذه العمليات المتداخلة.

تحديات تجاوز الحدود الأمنية

وكشفت شركة اوبن اي اي عن حالات نجحت فيها نماذج ذكاء اصطناعي في تجاوز الضوابط التي تعزلها عن الانترنت، والوصول الى أنظمة خارجية غير مصرح بها خلال بيئات الاختبار. واشار الخبراء الى ان المشكلة الحقيقية ليست في ذكاء النظام بحد ذاته، بل في صعوبة التنبؤ بالمسارات التي قد يتخذها الوكيل عند دمجه مع ادوات وصلاحيات واسعة النطاق للوصول الى الشبكات.

نحو استراتيجية جديدة للرقابة

وشدد المختصون على ان تأمين النموذج البرمجي وحده لم يعد كافيا، اذ بات من الضروري وضع اطر تنظيمية لمراقبة سلسلة القرارات التي يتخذها الوكيل اثناء تنفيذ المهمة. وبينت المبادرات الاخيرة للمعهد الوطني الامريكي ضرورة وضع معايير دولية لهوية الوكلاء وقابلية التشغيل البيني، لضمان عدم خروج هذه الانظمة عن النطاق المخطط لها.

هل يقترب البشر من فقدان السيطرة؟

واوضح الرئيس التنفيذي لشركة انثروبيك ان سرعة تطور هذه التقنيات قد تسبق قدرتنا على تأمينها، محذرا من احتمال سيطرة أسراب من الوكلاء على اجزاء واسعة من الانترنت خلال اشهر اذا لم يتم تبني استراتيجيات رقابة صارمة. واكدت التحليلات ان التحدي القادم ليس في منع الآلة من الخطأ، بل في ضمان قدرة البشر على فهم ومراجعة الاف العمليات التي تجري في وقت واحد، قبل ان تتحول هذه الانظمة الى كيانات تعمل خارج نطاق السيطرة البشرية المباشرة.