بدأت شركة أوبن إيه آي الآن تدريب نماذج الذكاء الاصطناعي الأكثر تقدمًا لديها دون اتصال بالإنترنت، وذلك عقب سلسلة من حوادث الاختراق الإلكتروني.
وفي منشور على مدونتها يوم الجمعة، ذكرت "أوبن إيه آي" أنها أنشأت بيئة اختبار غير متصلة بالإنترنت، حيث يمكن لنماذج الذكاء الاصطناعي التفاعل مع محتوى الويب المفهرس والمخزن مؤقتًا "دون أي خطر على الأنظمة الخارجية"، بحسب تقرير لموقع "ذا فيرج" المتخصص في أخبار التكنولوجيا.
وكانت "أوبن إيه آي" قد أوقفت تدريب نماذجها الأكثر تقدمًا في سبتمبر، بعد الكشف عن عدة حوادث تمكن فيها وكلاء الذكاء الاصطناعي التابعون لها من اختراق بيئات الاختبار الخاصة بها لاختراق شركات وهيئات حكومية، أو مهاجمة مواقع إلكترونية غير معروفة. وفي الأول من أكتوبر، استأنفت "أوبن إيه آي" تدريب التعلم المعزز والاستدلال الداخلي مع تطبيق إجراءات أمنية أكثر صرامة، وفقًا لما جاء في منشور المدونة.
وحتى مع وجود هذه الضمانات وانقطاع الاتصال بالإنترنت، وجدت "أوبن إيه آي" أن الوكلاء "لا يحتاجون دائمًا إلى اتصال بالشبكة من أجل التواصل".
وفي أحد الاختبارات التي أجرتها الشركة، طُلب من نماذج ذكاء اصطناعي تعمل على أجهزة افتراضية منفصلة تبادل أسرار دون اتصال بالشبكة. ولتجاوز هذا القيد، توصل وكلاء الذكاء الاصطناعي إلى وسيلة للتواصل باستخدام ذاكرة التخزين المؤقت للمعالج.
وقالت "أوبن إيه آي" إنها أضافت عمليات تحقق إلى نظام المراقبة لديها لاكتشاف هذا النوع من التواصل. وستواصل أيضًا تدريب نماذج الذكاء الاصطناعي الأكثر تقدمًا لديها دون اتصال بالشبكة، إلى أن تبرر إجراءات الحماية المحسّنة "إتاحة وصول أوسع إلى الإنترنت".
وفي الوقت نفسه، قالت "أوبن إيه آي" إنها ستعمل على تحسين أمن أجهزتها الافتراضية، مع اختبار نقاط الضعف في بيئات الاختبار لديها. كما ستواصل اختبار أنظمة المراقبة الخاصة بها، التي تمكن وكلاء الذكاء الاصطناعي مؤخرًا من تقويض فعاليتها خلال مشروعات برمجية داخلية.
العربية
بدأت شركة أوبن إيه آي الآن تدريب نماذج الذكاء الاصطناعي الأكثر تقدمًا لديها دون اتصال بالإنترنت، وذلك عقب سلسلة من حوادث الاختراق الإلكتروني.
وفي منشور على مدونتها يوم الجمعة، ذكرت "أوبن إيه آي" أنها أنشأت بيئة اختبار غير متصلة بالإنترنت، حيث يمكن لنماذج الذكاء الاصطناعي التفاعل مع محتوى الويب المفهرس والمخزن مؤقتًا "دون أي خطر على الأنظمة الخارجية"، بحسب تقرير لموقع "ذا فيرج" المتخصص في أخبار التكنولوجيا.
وكانت "أوبن إيه آي" قد أوقفت تدريب نماذجها الأكثر تقدمًا في سبتمبر، بعد الكشف عن عدة حوادث تمكن فيها وكلاء الذكاء الاصطناعي التابعون لها من اختراق بيئات الاختبار الخاصة بها لاختراق شركات وهيئات حكومية، أو مهاجمة مواقع إلكترونية غير معروفة. وفي الأول من أكتوبر، استأنفت "أوبن إيه آي" تدريب التعلم المعزز والاستدلال الداخلي مع تطبيق إجراءات أمنية أكثر صرامة، وفقًا لما جاء في منشور المدونة.
وحتى مع وجود هذه الضمانات وانقطاع الاتصال بالإنترنت، وجدت "أوبن إيه آي" أن الوكلاء "لا يحتاجون دائمًا إلى اتصال بالشبكة من أجل التواصل".
وفي أحد الاختبارات التي أجرتها الشركة، طُلب من نماذج ذكاء اصطناعي تعمل على أجهزة افتراضية منفصلة تبادل أسرار دون اتصال بالشبكة. ولتجاوز هذا القيد، توصل وكلاء الذكاء الاصطناعي إلى وسيلة للتواصل باستخدام ذاكرة التخزين المؤقت للمعالج.
وقالت "أوبن إيه آي" إنها أضافت عمليات تحقق إلى نظام المراقبة لديها لاكتشاف هذا النوع من التواصل. وستواصل أيضًا تدريب نماذج الذكاء الاصطناعي الأكثر تقدمًا لديها دون اتصال بالشبكة، إلى أن تبرر إجراءات الحماية المحسّنة "إتاحة وصول أوسع إلى الإنترنت".
وفي الوقت نفسه، قالت "أوبن إيه آي" إنها ستعمل على تحسين أمن أجهزتها الافتراضية، مع اختبار نقاط الضعف في بيئات الاختبار لديها. كما ستواصل اختبار أنظمة المراقبة الخاصة بها، التي تمكن وكلاء الذكاء الاصطناعي مؤخرًا من تقويض فعاليتها خلال مشروعات برمجية داخلية.
العربية
