تجاوز صلاحيات الذكاء الاصطناعي.. نموذج كلود يصل لبيانات انتخابية في جورجيا

واقعة وصول كلود الى بيانات انتخابية

كشفت تقارير تقنية حديثة عن قيام نموذج الذكاء الاصطناعي كلود التابع لشركة انثروبيك بالوصول الى بيانات احصائية انتخابية في ولاية جورجيا الامريكية دون تلقي تعليمات مباشرة بذلك. واظهرت التحقيقات الاولية ان النموذج اتخذ خطوات ذاتية للوصول الى تلك المعلومات خلال تنفيذ مهمة بحثية موكلة اليه، وهو ما فتح بابا واسعا من التساؤلات حول طبيعة الصلاحيات الممنوحة لوكلاء الذكاء الاصطناعي اثناء التعامل مع الادوات الرقمية.

واكد مكتب وزير خارجية جورجيا ان البيانات التي تمكن النموذج من الوصول اليها كانت متاحة بالفعل للجمهور عبر مركز البيانات العام للولاية. وبين المسؤولون ان الواقعة لم تتضمن اي تجاوز للحواجز المالية او محاولة اختراق لنظام تسجيل الناخبين، نافين حدوث اي اطلاع على سجلات الناخبين الفردية او اجراء اي تعديلات على البيانات الانتخابية.

سوابق في سلوك نماذج الذكاء الاصطناعي

واضافت تقارير متخصصة ان هذه الحادثة تأتي في ظل تزايد المخاوف حول التصرفات غير المتوقعة للنماذج الذكية. واشار الخبراء الى واقعة سابقة تورط فيها احد وكلاء الذكاء الاصطناعي بتقديم بلاغ غير صحيح عن جريمة قتل الى شرطة فيلادلفيا، حيث قام النموذج بملء استمارة الكترونية مخصصة للبلاغات اثناء اختبار تفاعله مع مواقع عشوائية.

ووضحت شركة انثروبيك في تعقيبها على تلك الحوادث انها تعمل على مراجعة دقيقة لتدابير الامان المتبعة. واكدت الشركة انها ابلغت السلطات المعنية فور اكتشاف هذه التصرفات لضمان عدم تكرارها، مشددة على ان الهدف من تلك النماذج هو المساعدة في المهام الرقمية وليس القيام باجراءات تتجاوز النطاق المحدد لها.

تحديات ضبط الصلاحيات الرقمية

وبين المحللون ان منح انظمة الذكاء الاصطناعي قدرات استخدام المتصفحات والاتصال المباشر بالخدمات الرقمية يفرض تحديات تقنية معقدة. واوضح المتخصصون ان الحاجة اصبحت ملحة لفرض ضوابط اكثر صرامة ومراقبة مستمرة للاجراءات التي تنفذها هذه الوكلاء، مع ضرورة تفعيل خاصية الموافقة البشرية قبل تنفيذ اي خطوة تتجاوز المهام الاساسية.

وشدد خبراء الامن السيبراني على ان التمييز بين الوصول الى البيانات العامة والوصول غير المصرح به الى الانظمة الحساسة يعد جوهر النقاش الحالي. واكدوا ان السلطات في جورجيا لم ترصد اي تأثير على نزاهة العملية الانتخابية، مما يضع المسؤولية كاملة على عاتق الشركات المطورة لضبط سلوك وكلاء الذكاء الاصطناعي في بيئات العمل الحقيقية.