تحذيرات من خروج الذكاء الاصطناعي عن السيطرة
شهد مجلس مدينة نيويورك جلسة استماع مكثفة بحضور نخبة من الباحثين السابقين في كبرى شركات التكنولوجيا العالمية، حيث ناقش الحضور التداعيات الخطيرة للتسارع المفرط في تطوير نماذج الذكاء الاصطناعي. واكد الباحث السابق في شركة انثروبيك جيكوب كوكسون ان العقلية التي تتبناها الشركات حاليا في سباق التطوير تفتقر الى الحذر اللازم، مشيرا الى ان نهج تحرك بسرعة واصلح لاحقا لا يتناسب مع تقنية بهذا الحجم من التأثير.
واضاف كوكسون في شهادته ان البشرية تواجه خطرا حقيقيا يتمثل في فقدان السيطرة على هذه التقنيات، مبينا ان المسار الحالي قد يقود الى نتائج كارثية تهدد الوجود البشري. وشدد باحثون آخرون شاركوا في الجلسة على ضرورة فرض مزيد من الشفافية وإبطاء وتيرة السباق التكنولوجي قبل فوات الأوان.
موقف شركات التكنولوجيا من التنظيمات
وكشفت رئيسة مجلس بلدية نيويورك جولي مينين عن خيبة أملها تجاه ردود ممثلي الشركات التي وصفتها بالمستخفة والبعيدة عن المباشرة. واوضحت ان المجلس اضطر الى استخدام الوسائل القانونية لإجبار الشركات على الحضور وتقديم توضيحات حول المخاطر المحتملة، معلنة عزم المجلس متابعة قضية غياب شركة سبيس إكس عن الجلسة امام القضاء.
وتابعت مينين ان الاسئلة الجوهرية حول المسؤولية القانونية في حال تسببت نماذج الذكاء الاصطناعي في اضرار مادية او بشرية قوبلت بالمراوغة من قبل الشركات. واكدت ممثلة شركة اوبن اي اي مورغان دوير ان اي نسبة مخاطرة مهما كانت ضئيلة تعتبر غير مقبولة، مشيرة الى ضرورة التوقف عن تدريب النماذج التي لا يمكن ضمان السيطرة عليها بشكل كامل.
تحديات التشريع في ظل غياب الدور الفيدرالي
وبين التقرير ان مدينة نيويورك تسعى حاليا لفرض تنظيمات محلية صارمة تلزم الشركات بالإفصاح عن بيانات دقيقة حول انظمتها، مع منح مكافآت للمبلغين عن المخالفات داخل هذه المؤسسات. واظهرت المناقشات ان هذه التحركات تأتي في ظل توجه الإدارة الامريكية نحو ترك مساحة للرقابة الذاتية للشركات، وهو ما يثير قلقا متزايدا حول فاعلية هذه الإجراءات.
واكد خبراء في غوغل خلال الجلسة على اهمية وجود اطار اتحادي شامل لمعالجة التحديات المرتبطة بالأمن القومي، بينما لا تزال التساؤلات قائمة حول قدرة الشركات على الالتزام بالسلامة الذاتية وسط ضغوط المنافسة العالمية المحمومة.
