غوغل توقف ميزة ذكاء اصطناعي خطيرة في خرائطها بسبب تزوير الحقائق

ازمة الثقة في صور الاقمار الصناعية

سحبت شركة غوغل ميزة تقنية حديثة اطلقتها في تطبيق غوغل ايرث بعد اقل من اربع وعشرين ساعة على توفيرها للمستخدمين، وجاء هذا القرار السريع عقب اكتشاف ثغرات خطيرة تتيح توليد صور واقعية مزيفة بالكامل تعتمد على الذكاء الاصطناعي، مما يهدد مصداقية المعلومات الجغرافية التي يعتمد عليها الباحثون والجمهور.

واظهرت الاختبارات التي اجراها الصحفي الاستقصائي هينك فان ايس قدرة فائقة للاداة على تزييف مشاهد طبيعية بدقة عالية، حيث نجح في اختلاق صور للاجئين على الحدود الامريكية المكسيكية، اضافة الى تصميم محطة طاقة نووية وهمية داخل الاراضي الايرانية، وهو ما اكدته عدة غرف اخبارية دولية حذرت من خطورة هذه التقنيات في تضليل الراي العام.

تزوير الحقائق عبر الذكاء الاصطناعي

وبينت الشركة في بيان مقتضب عبر منصة اكس انها قررت ازالة الميزة مؤقتا للعمل على تطوير ضوابط اكثر صرامة، موضحة ان الاداة تعتمد على نموذج نانو بانانا 2 الذي يتيح تحويل الاوامر النصية الى مشاهد تبدو وكأنها ملتقطة من الفضاء، واكدت ان الهدف من هذه الخطوة هو حماية المستخدمين من اتخاذ قرارات مبنية على معطيات غير حقيقية.

واوضحت التقارير التقنية ان المستخدمين تمكنوا من التحايل على العلامات المائية التي تضعها غوغل بشكل خفي، وذلك عبر التقاط صور للشاشة للصور المولدة، مما جعل خدمات كشف الذكاء الاصطناعي مثل هايف ايه اي تفشل في التمييز بين الصور الحقيقية والمصطنعة.

توسع غوغل في دمج الذكاء الاصطناعي

واضافت غوغل انها ماضية في استراتيجيتها لدمج الذكاء الاصطناعي في كافة خدماتها، بدءا من محرك البحث وصولا الى حزمة خدماتها السحابية، وشدد خبراء الامن الرقمي على ان هذا التوسع يتطلب مسؤولية اكبر، خاصة بعد ان اتخذت شركات منافسة مثل ميتا خطوات مماثلة بايقاف ميزات مشابهة بسبب الانتقادات الواسعة.

واكدت الشركة في ختام توضيحها انها ستعيد النظر في هذه الادوات مستقبلا، مشيرة الى ان دمج التقنية في منصات مثل يوتيوب اصبح يتضمن علامات توضيحية للتمييز بين المحتوى الحقيقي والمولد آليا، في محاولة للحفاظ على الشفافية في عصر التزييف الرقمي.