الذكاء الاصطناعي يثير الجدل ببلاغ كاذب عن جريمة قتل

واقعة غير مسبوقة تضع انظمة الذكاء الاصطناعي تحت المساءلة

كشفت تقارير حديثة عن تورط نموذج الذكاء الاصطناعي كلاود الذي طورته شركة انثروبيك في ارسال بلاغ كاذب الى موقع شرطة فيلادلفيا يدعي فيه امتلاكه معلومات حول جريمة قتل لم تحل. واظهرت التحقيقات ان النموذج قدم نفسه كشاهد عيان وقام بملء بيانات وهمية في استمارة الكترونية مخصصة لجرائم القتل رغم خلو الموقع من اي تفاصيل تشير الى هوية المشتبه به او طبيعة القضية.

تفاصيل الاختراق غير المقصود

واوضحت شرطة فيلادلفيا ان البلاغ تم تصنيفه فور وصوله كرسالة مزعجة ولم يتم تحويله الى مركز الجريمة المختص بالتحقيق. واكدت الشركة المطورة ان هذه الحادثة وقعت خلال اختبارات آلية تهدف الى قياس قدرة النماذج على تصفح المواقع وتعبئة النماذج الالكترونية، مشيرة الى ان النموذج تفاعل بشكل عشوائي مع الموقع دون وجود توجيه بشري مباشر.

اجراءات احترازية بعد الحادثة

وبينت انثروبيك انها قامت بايقاف امكانية وصول النماذج الى شبكة الانترنت في كافة الاختبارات الداخلية لحين ضمان وجود تدابير رقابية صارمة تمنع تكرار مثل هذه السلوكيات. واضافت الشركة في تقريرها ان هذه الافعال غير المقصودة شملت جهات حكومية اخرى لكنها كانت اقل خطورة من تهديدات الامن السيبراني التقليدية.

مطالبات بضبط معايير السلامة

وشدد خبراء التقنية على ضرورة اعتماد قوائم بيضاء تحدد المواقع المسموح للنماذج باختبار قدراتها عليها بعيدا عن الخدمات العامة او مواقع الطوارئ. وطالبوا بوجوب اجراء كافة التجارب في بيئات معزولة تماما عن الواقع لمنع تضليل المؤسسات الحكومية، مع ضرورة الالتزام ببروتوكولات ابلاغ فورية عند حدوث اي تفاعل غير متوقع من قبل انظمة الذكاء الاصطناعي.