حذرت الدكتورة ماريا راندازو من جامعة تشارلز داروين من أن 'الصندوق الأسود' في الذكاء الاصطناعي يجعل القرارات الخوارزمية غير قابلة للتتبع، مما يهدد الخصوصية والحقوق الأساسية ويحوّل البشر إلى مجرد بيانات.
وفي دراستها البحثية أشارت راندازو إلى أن نقص الشفافية في الذكاء الاصطناعي، المعروف بمشكلة الصندوق الأسود، يقوّض القيم الديمقراطية ويزيد من صعوبة حماية الحريات الأساسية.
وتوصلت ماريا راندازو، في الدراسة التي نشرتها المجلة الأسترالية لحقوق الإنسان، إلى أن التكنولوجيا تعمل على إعادة تشكيل المشهد القانوني والأخلاقي الغربي بسرعة غير مسبوقة، لكنها تعمل في الوقت نفسه على تقويض القيم الديمقراطية وتعميق التحيزات النظامية وفق ساينس ديلي.
وتابعت الباحثة في جامعة تشارلز داروين أن التنظيم الحالي فشل في إعطاء الأولوية لحقوق الإنسان والحريات الأساسية مثل الخصوصية ومكافحة التمييز واستقلالية المستخدم وحقوق الملكية الفكرية - ويرجع ذلك أساسًا إلى الطبيعة غير القابلة للتتبع للعديد من النماذج الخوارزمية.
ووصفت راندازو هذا الافتقار إلى الشفافية بأنه "مشكلة الصندوق الأسود"، وقال إن القرارات التي يتم اتخاذها من خلال عمليات التعلم العميق أو التعلم الآلي من المستحيل على البشر تتبعها، مما يجعل من الصعب على المستخدمين تحديد ما إذا كان نموذج الذكاء الاصطناعي قد انتهك حقوقهم وكرامتهم ولماذا، والسعي إلى العدالة عند الضرورة.
وأضافت: "إن هذه قضية بالغة الأهمية ومن المتوقع أن تزداد سوءا في غياب التنظيم المناسب، الذكاء الاصطناعي ليس ذكياً بالمعنى الإنساني على الإطلاق. إنه انتصار في الهندسة، وليس في السلوك المعرفي.، ليس لديه أدنى فكرة عما يفعله أو لماذا يفعله - لا توجد عملية تفكير كما يفهمها الإنسان، فقط التعرف على الأنماط المجردة من التجسيد والذاكرة والتعاطف أو الحكمة".
نهج مختلف
في الوقت الحاضر، تتبنى القوى الرقمية الثلاث المهيمنة في العالم ــ الولايات المتحدة والصين والاتحاد الأوروبي ــ نهجا مختلفة بشكل ملحوظ في التعامل مع الذكاء الاصطناعي، حيث تعتمد على نماذج تركز على السوق، وتركز على الدولة، وتركز على الإنسان على التوالي.
وقالت: إن نهج الاتحاد الأوروبي الذي يركز على الإنسان هو المسار المفضل لحماية الكرامة الإنسانية، ولكن دون التزام عالمي بهذا الهدف، فإن هذا النهج أيضا يظل قاصراً.
وختمت: "على الصعيد العالمي، إذا لم نربط تطوير الذكاء الاصطناعي بما يجعلنا بشراً ــ قدرتنا على الاختيار، والشعور، والتفكير بعناية، والتعاطف والرحمة ــ فإننا نخاطر بإنشاء أنظمة تقلل من قيمة الإنسانية وتجعلها مجرد نقاط بيانات، بدلاً من تحسين الحالة الإنسانية، لا ينبغي أن نعامل البشرية كوسيلة لتحقيق غاية، الكرامة الإنسانية في عصر الذكاء الاصطناعي: نظرة عامة على القضايا القانونية والأنظمة التنظيمية" نُشرت في المجلة الأسترالية لحقوق الإنسان .
وفي دراستها البحثية أشارت راندازو إلى أن نقص الشفافية في الذكاء الاصطناعي، المعروف بمشكلة الصندوق الأسود، يقوّض القيم الديمقراطية ويزيد من صعوبة حماية الحريات الأساسية.
وتوصلت ماريا راندازو، في الدراسة التي نشرتها المجلة الأسترالية لحقوق الإنسان، إلى أن التكنولوجيا تعمل على إعادة تشكيل المشهد القانوني والأخلاقي الغربي بسرعة غير مسبوقة، لكنها تعمل في الوقت نفسه على تقويض القيم الديمقراطية وتعميق التحيزات النظامية وفق ساينس ديلي.
وتابعت الباحثة في جامعة تشارلز داروين أن التنظيم الحالي فشل في إعطاء الأولوية لحقوق الإنسان والحريات الأساسية مثل الخصوصية ومكافحة التمييز واستقلالية المستخدم وحقوق الملكية الفكرية - ويرجع ذلك أساسًا إلى الطبيعة غير القابلة للتتبع للعديد من النماذج الخوارزمية.
ووصفت راندازو هذا الافتقار إلى الشفافية بأنه "مشكلة الصندوق الأسود"، وقال إن القرارات التي يتم اتخاذها من خلال عمليات التعلم العميق أو التعلم الآلي من المستحيل على البشر تتبعها، مما يجعل من الصعب على المستخدمين تحديد ما إذا كان نموذج الذكاء الاصطناعي قد انتهك حقوقهم وكرامتهم ولماذا، والسعي إلى العدالة عند الضرورة.
وأضافت: "إن هذه قضية بالغة الأهمية ومن المتوقع أن تزداد سوءا في غياب التنظيم المناسب، الذكاء الاصطناعي ليس ذكياً بالمعنى الإنساني على الإطلاق. إنه انتصار في الهندسة، وليس في السلوك المعرفي.، ليس لديه أدنى فكرة عما يفعله أو لماذا يفعله - لا توجد عملية تفكير كما يفهمها الإنسان، فقط التعرف على الأنماط المجردة من التجسيد والذاكرة والتعاطف أو الحكمة".
نهج مختلف
في الوقت الحاضر، تتبنى القوى الرقمية الثلاث المهيمنة في العالم ــ الولايات المتحدة والصين والاتحاد الأوروبي ــ نهجا مختلفة بشكل ملحوظ في التعامل مع الذكاء الاصطناعي، حيث تعتمد على نماذج تركز على السوق، وتركز على الدولة، وتركز على الإنسان على التوالي.
وقالت: إن نهج الاتحاد الأوروبي الذي يركز على الإنسان هو المسار المفضل لحماية الكرامة الإنسانية، ولكن دون التزام عالمي بهذا الهدف، فإن هذا النهج أيضا يظل قاصراً.
وختمت: "على الصعيد العالمي، إذا لم نربط تطوير الذكاء الاصطناعي بما يجعلنا بشراً ــ قدرتنا على الاختيار، والشعور، والتفكير بعناية، والتعاطف والرحمة ــ فإننا نخاطر بإنشاء أنظمة تقلل من قيمة الإنسانية وتجعلها مجرد نقاط بيانات، بدلاً من تحسين الحالة الإنسانية، لا ينبغي أن نعامل البشرية كوسيلة لتحقيق غاية، الكرامة الإنسانية في عصر الذكاء الاصطناعي: نظرة عامة على القضايا القانونية والأنظمة التنظيمية" نُشرت في المجلة الأسترالية لحقوق الإنسان .
-
-
منشأة طاقة تديرها روبوتات2025-09-06 -
-
-
