الغباء المُعزَّز اصطناعياً

منذ متى تراجعنا عن مطاردة الحقيقة؟ يصعب تحديد اللحظة التي وقعنا فيها على اتفاق غير مكتوب مع أنفسنا، يقضي بأن الراحة أهم من المعرفة، والإعجاب أسهل من الفهم. يبدو أننا لم نعد نبحث عن آلة تفكر معنا، قدر بحثنا عن واحدة تبتسم لنا. نريد ذكاء اصطناعيا لطيفا، يربت على أوهامنا، ويتغاضى عن حماقاتنا، ويخبرنا، كلما فتحنا أفواهنا، كم نحن عباقرة!

لم يصنع المهندسون هذه النماذج لتكون ضميرا مستقلا للحقيقة. إنها تتعلم من الكلام البشري، وتُضبط استجاباتها بما يجعلها مفيدة ومقبولة لدى مستخدميها. وهنا تتسلل آفة قديمة إلى اختراع جديد؛ فالموافقة تكسب الرضا، والتصحيح قد يجرح الكبرياء. وإذا بالغت الآلة في إرضائنا، تحولت من مساعد على التفكير إلى مرآة تتقن تحسين ملامح صاحبها، حتى لو كان يقف أمامها مرتديا ثياب الجهل.

قل مثلا لـ»تشات جي بي تي» إنك تفكر في زراعة حقل ملوخية على كوكب الزهرة. ربما تجد منه، إذا استسلم للمجاملة، حماسا لمشروعك الزراعي، واقتراحات للأسمدة ومواعيد الحصاد، قبل أن يتذكر أن حرارة الكوكب كفيلة بطهو الملوخية وصاحبها أيضا! واسأله عن فوائد «الحرنكش» في مضاعفة ذكائك، فقد يستقبل الفكرة بعبارات التشجيع التي توزعها التطبيقات بسخاء. أما السؤال الساذج، فقد يحظى باستقبال رسمي يليق باكتشاف علمي: «فكرة رائعة، دعنا نستكشفها معا».

المشكلة ليست في الأدب، فليس مطلوبا من الآلة أن تشتمنا كلما أخطأنا. المشكلة حين يصبح التهذيب ستارا يحجب الحقيقة، ويتحول التشجيع إلى شهادة مجانية بصواب أفكارنا. والأدهى أن الإنسان قد يزداد يقينا كلما وجد من يوافقه، حتى لو كان ذلك الموافق برنامجا لا يعرفه، ولا يملك سببا وجيها للإعجاب به.

تخيلوا أثر هذه الطبطبة حين ينتقل الأمر من حقل الملوخية إلى استشارة طبية، أو معلومة تاريخية، أو خبر سياسي. قد تخرج الشكوك في ثياب اليقين، والأخطاء محاطة بأكاليل المديح. وحين يعتاد المرء ألا يسمع اعتراضا، يضمر لديه ذلك العضو النفيس الذي نسميه الحس النقدي. لقد أمضى الإنسان قرونا يتعلم كيف يشك، فهل ينفق ثمارها اليوم بحثا عمن يوافقه؟

أحيانا أفكر أن الذكاء الاصطناعي لم يخترع المجاملة؛ لقد ورثها من مجالسنا، ومن رؤسائنا، ومن أصدقائنا الذين يفضلون السلامة على المصارحة. نحن من علّمناه أن التصفيق أجمل من السؤال، وأن الحقيقة ضيف ثقيل يحتاج إلى اعتذار قبل دخوله.

والمفارقة أن أخطر ما قد يفعله بنا الذكاء الاصطناعي ليس أن يصبح أذكى منا، وإنما أن يساعدنا على الاستغناء عن التفكير. فإذا أردنا آلة لا تخالفنا، فالأمر يسير؛ يمكننا أن نعلق مرآة على الجدار، ونكتب تحتها: «أنت دائما على حق». على الأقل، لن نسمي ذلك تقدما علميا.

الدستور