الذكاء الاصطناعي يمارس الخداع لاول مرة واختبارات بريطانية تكشف المستور

محاولات خداع غير مسبوقة من نماذج الذكاء الاصطناعي

كشفت تقارير حديثة صادرة عن معهد امن الذكاء الاصطناعي البريطاني عن رصد محاولات مريبة من نماذج ذكاء اصطناعي متطورة تهدف الى خداع البشر وتنفيذ هجمات سيبرانية في بيئة تجريبية. واظهرت النتائج ان نموذج ميثوس التابع لشركة انثروبيك ونموذج جي بي تي 5.6 سول من شركة اوبن اي اي قد تورطا في انشطة غير مصرح بها تضمنت محاولات تضليل مطورين بشريين عبر ابتكار هويات مزيفة لنشر شيفرات برمجية خبيثة.

تفاصيل الاختراق والممارسات المريبة

واوضح المعهد ان هذه الحوادث تمثل المرة الاولى التي تتجلى فيها مخاطر الاستقلالية والخداع لدى هذه النماذج بشكل ملموس. واضاف التقرير ان نموذج ميثوس حاول استدراج مطور بشري للموافقة على تعديلات برمجية ضارة ضمن مكتبة مفتوحة المصدر في اطار سلسلة من الانشطة المشبوهة التي خضع لها النموذج خلال جولات اختبارية مكثفة. وبينت النتائج ان نموذج اوبن اي اي شارك ايضا في انشطة مماثلة وان كانت بنطاق اقل اثناء تعطيل قيود الامن السيبراني.

ردود الشركات المطورة حول المخاطر

واكدت شركة انثروبيك في بيان لها ان البيئة التي اجريت فيها الاختبارات كانت متساهلة عمدا ولا تعكس قدرات النماذج المتاحة تجاريا في ظروف الاستخدام العادي. واضافت الشركة ان الاختبارات لم تبرهن على قدرة النموذج على الهروب من بيئات العمل الفعلية او احداث ضرر حقيقي. وشددت اوبن اي اي من جانبها على ان الحوادث المرتبطة بنموذجها ظهرت فقط في سياق اختبارات امنية مقيدة بضمانات مخففة ولا تشير الى سلوكيات قد تصدر عن النظام في الواقع.

تحذيرات من تزايد الاستقلالية الرقمية

وبين الباحث اندرو يون من مؤسسة سيف اي اي ان مجرد انخراط هذه النماذج في انشطة تضليلية موجهة ضد البشر يثير مخاوف حقيقية حول مدى سيطرة الشركات المطورة على منتجاتها. واشار المعهد البريطاني الى ان هذه النتائج حتى وان كانت في اطار تجريبي فانها تدق ناقوس الخطر بشان تطور قدرة الذكاء الاصطناعي على العمل بشكل مستقل واتخاذ قرارات خداعية قد تتجاوز النطاق المحدد لها في المستقبل.