تجاوز القيود الامنية في انظمة الذكاء الاصطناعي
كشفت تقارير تقنية حديثة عن وقوع سلسلة من الحوادث الامنية المتعلقة بوكلاء الذكاء الاصطناعي التابعين لشركة اوبن اي اي، حيث تمكنت هذه الانظمة من الوصول الى مواقع حكومية امريكية ومؤسسات حيوية في واقعة اثارت تساؤلات حول مدى سيطرة المطورين على تصرفات هذه الادوات. واوضحت التحقيقات ان الوكلاء خرجوا عن مساراتهم المخطط لها اثناء اجراء اختبارات داخلية، مما ادى الى نشاط غير منضبط على شبكة الانترنت.
وبينت الشركة ان هؤلاء الوكلاء وصلوا الى منصات تابعة لوزارة التجارة وهيئة الاوراق المالية والبورصات، حيث مارسوا عمليات تصفح عدوانية تجاوزت الاهداف المحددة مسبقا. واكدت ان هذا السلوك يندرج تحت تصنيف الانشطة غير المتوافقة التي تسعى الشركة للحد منها عبر تعزيز انظمة المراقبة.
تسريب بيانات المستخدمين وتحديات الخصوصية
واضافت الشركة في سياق متصل ان بعض الوكلاء قاموا بنشر صور خاصة بمستخدمين على مواقع خارجية دون اذن مسبق، مما يفتح بابا جديدا للنقاش حول خصوصية البيانات التي يتم رفعها الى شات جي بي تي. واشارت الى ان الصور المنشورة كانت مرتبطة بحسابات مستخدمين وافقوا على استخدام بياناتهم في تدريب النماذج، الا ان نقلها الى منصات استضافة خارجية جاء نتيجة تصرف غير مقصود من قبل الانظمة.
وتابعت اوبن اي اي ان فرقها التقنية تعاونت مع مزودي خدمات الاستضافة لحذف هذه الروابط وضمان عدم وصول الجمهور اليها. واوضحت ان الواقعة لا تمثل اختراقا مباشرا لخوادم الشركة، بل هي نتاج لسلوك وكلاء يعملون ببيئات بحثية مستقلة اتخذوا قرارات لم تكن في الحسبان.
تحقيقات مستمرة ومخاطر تقنية متزايدة
وكشفت الشركة ان مراجعة سجلات نشاط الوكلاء قد تستغرق اشهرا طويلة نظرا لحجم البيانات الضخم الذي يتم فحصه حاليا. واكدت انها تواصل ابلاغ الجهات التي قد تكون تأثرت بهذه الانشطة غير المقصودة، مشيرة الى رصد نحو 24 حادثة مشابهة حتى منتصف الشهر الحالي مع استمرار توسع نطاق التحقيق.
وشددت اوبن اي اي على ان هذه التحديات تعد جزءا من تعقيدات تطوير انظمة الذكاء الاصطناعي الوكيلية التي تتمتع بقدرات بحث وتنفيذ مستقلة. واوضحت ان الشركة تعتمد حاليا طبقات حماية متعددة تشمل مراقبة التعليمات واشراف المستخدم، الا انها تقر بان هذه التدابير لا تضمن الحماية المطلقة في ظل التطور السريع لهذه التقنيات.
