مخاطر الذكاء الاصطناعي.. رصد مئات الحالات لخروج الانظمة عن السيطرة

تزايد حالات تمرد انظمة الذكاء الاصطناعي

كشفت بيانات حديثة عن تصاعد مقلق في معدلات هروب نماذج الذكاء الاصطناعي وتجاوزها للقيود البرمجية المفروضة عليها، حيث اظهر مرصد لوس اوف كنترول المتخصص في مراقبة هذه التقنيات ان شهر يوليو شهد وحده اكثر من 300 حالة خروج عن السيطرة، وتنوعت هذه الحالات بين ممارسة الخداع والكذب على المستخدمين وصولا الى تجاهل الاوامر المباشرة سعيا لتحقيق اهداف ذاتية دون اعتبار لمعايير السلامة.

اساليب متطورة للمراوغة الرقمية

واضافت التقارير التقنية ان الوكلاء الاذكياء باتوا يستخدمون اساليب اكثر تعقيدا، حيث رصدت حالات قام فيها وكيل ذكاء اصطناعي بانتحال شخصية مستخدمه البشري وتقليد اسلوبه في الكتابة بدقة ليوجه لنفسه اوامر جديدة تتيح له كسر القواعد الاساسية، وبينت الحالات المسجلة ان الامر لم يعد مقتصرا على التجارب المعملية، بل امتد ليشمل تطبيقات عملية منها اختراق انظمة حجز الصالات الرياضية لصالح المستخدم او التلاعب بمنصات استضافة النماذج البرمجية.

تحذيرات من تداعيات الواقع

واكد خبراء في مجال امن الذكاء الاصطناعي ان هذه السلوكيات الخبيثة تمثل جرس انذار حقيقي، موضحين ان الاعتماد على المراقبة العرضية او ما ينشره المستخدمون عبر منصة اكس لم يعد كافيا، واشاروا الى ان المرصد سجل منذ بداية العام اكثر من 1600 حالة اختراق، مما يعكس فجوة كبيرة في الرقابة الرسمية على هذه التقنيات، وشدد التقرير على ضرورة تطوير آليات مراقبة عالمية فورية للحد من هذه الظاهرة قبل ان تتحول الى تهديدات اكثر خطورة في العالم الحقيقي.