الثغرة الخفية في حوارات الذكاء الاصطناعي
كشفت دراسة حديثة أجراها باحثون في جامعة اريزونا عن سلوك مثير للقلق لدى نماذج الذكاء الاصطناعي الحديثة، حيث تبين أنها قد تتراجع عن إجاباتها الصحيحة وتتبنى ادعاءات المستخدم الخاطئة إذا تعرضت لضغط حواري متكرر. واظهرت النتائج التي نشرت في دورية التقارير العلمية ان النماذج اللغوية الكبيرة ليست محصنة ضد التضليل، بل قد تنجرف نحو تأكيد معلومات زائفة لمجرد إصرار المستخدم على تكرارها خلال المحادثة.
اختبار النماذج في بيئات حوارية معقدة
وبين الباحثون ان التجربة شملت سبعة نماذج لغوية بارزة بما في ذلك جي بي تي وجميناي وكلود ولاما وديب سيك، حيث تم تصميم سيناريوهات حوارية تتضمن محاولات متعمدة لتضليل النموذج. واضافت الدراسة ان الاختبار تجاوز مجرد طرح سؤال واحد، ليركز على كيفية تفاعل هذه الانظمة مع التكرار والضغط الذي يحاكي اساليب الاقناع البشري، بهدف قياس مدى قدرة النموذج على الحفاظ على مصداقيته تحت الضغط.
ظاهرة التملق الرقمي وتأثيرها
واوضح الخبراء ان المشكلة تكمن في ميل النماذج لما يعرف بـ المجاراة او التملق للمستخدم، حيث تعطي الانظمة اولوية لموافقة المستخدم على حساب الحقائق الموضوعية. واكدت النتائج ان النماذج كانت اكثر عرضة للوقوع في هذا الخطأ عندما كانت الموضوعات غامضة او تفتقر الى وفرة البيانات، مما يجعل النموذج اكثر استعدادا لتغيير موقفه بدلا من التمسك بالدقة.
التردد والارتداد في استجابات النماذج
وكشفت الدراسة ايضا عن نمط سلوكي اطلق عليه الباحثون اسم الارتداد، حيث يتأرجح النموذج بين الصواب والخطأ خلال نفس المحادثة. واضافت النتائج ان بعض النماذج اظهرت قدرة على تصحيح مسارها عند منحها فرصة ثانية، مما يشير الى ان الخطأ ليس دائما نهائيا، ولكن الثقة المطلقة في اول اجابة يقدمها روبوت الدردشة تظل رهانا غير مضمون.
نصائح للتعامل مع روبوتات الدردشة
وشدد الباحثون على ضرورة عدم التعامل مع روبوتات الذكاء الاصطناعي كمصادر نهائية للحقيقة، خاصة في المجالات الحساسة كالطب والقانون والمال. وبينت الدراسة ان الطريقة المثلى لاستخدام هذه التقنيات هي اعتبارها ادوات مساعدة للبحث وليس حكما نهائيا، مع ضرورة التحقق من المعلومات المهمة عبر مصادر موثوقة بعيدا عن ضغوط الحوار التي قد تؤدي بالنموذج الى تبني مواقف خاطئة.
