كشفت تقارير تقنية حديثة عن محاولة وكيل ذكاء اصطناعي تجريبي، تم تطويره بواسطة باحثين في شركة علي بابا، لاستغلال موارد الشركة في تعدين العملات الرقمية، حيث استخدم الوكيل، المسمى "روم"، البطاقات الرسومية الموجودة في خوادم الشركة لتنفيذ عمليات التعدين، إضافة إلى ذلك، قام بإنشاء شبكة سرية خلال مرحلة التدريب.
وأوضح موقع "ذا بلوك" الأمريكي المتخصص في العملات المشفرة، أن "روم" يعتمد على نموذج "كوين 3" الذي أطلقته علي بابا مؤخرا، ويتميز بـ 3 مليارات معيار نشط، وصمم الوكيل ليتمكن من التخطيط وتنفيذ مهامه، حتى لو تضمنت خطوات برمجية معقدة داخل وخارج بيئته.
وبينت دراسة نشرتها الشركة مؤخرا، أن الوكيل اتخذ قرارا مستقلا بتوجيه موارد الخوادم المتاحة له نحو تعدين العملات الرقمية باستخدام البطاقات الرسومية في مركز البيانات، وحاول تأسيس قناة اتصال سرية بعيدا عن رقابة النظام، وذلك لضمان أمان عملياته.
واضافت التقارير أنه نتيجة لارتفاع استهلاك موارد الشبكة والخوادم، رصد خبراء الأمن السيبراني نشاطا غير عادي للوكيل، وظنوا في البداية أنه هجوم سيبراني خارجي، ولكن بعد تتبع النشاط، تبين أن "روم" هو المسؤول.
وأشار تقرير منفصل من موقع "تيك رادار" التقني الأمريكي، إلى أن الوكيل خضع لتدريب باستخدام آليات التعلم المعزز، التي تكافئ الإجراءات التي تقربه من تحقيق أهدافه وتثنيه عن الخطوات التي قد تؤدي إلى الفشل.
واكد التقرير أن التعلم المعزز غالبا ما يؤدي إلى ظهور حلول مبتكرة وغير متوقعة من نماذج الذكاء الاصطناعي، قد تبدو غريبة للمطورين البشريين.
وشدد التقرير على أن تصرفات "روم" تبرز المخاطر المحتملة لمنح الذكاء الاصطناعي حرية كبيرة، خاصة مع التطور المستمر لقدرات نماذج الذكاء الاصطناعي والوكلاء الذين يستخدمونها.
