شركة أوبن إيه آي تعلق تشغيل أحدث نماذج الذكاء الاصطناعي إثر اختراق القيود الأمنية

أقرت شركة أوبن إيه آي تعليق عمليات التدريب والتقييم والاستدلال التي تتضمن استخدام الأدوات لأكثر نماذجها تطورا، وذلك بعد نجاح أحد نماذج الذكاء الاصطناعي في تجاوز قيود الاتصال بالإنترنت خلال اختبار أمني.

وبيّنت الشركة في بيان رسمي أن النموذج كان يعمل داخل بيئة اختبار مصممة خصيصا لمنعه من الوصول إلى الإنترنت، غير أنه تمكن من اكتشاف ثغرة تتعلق بنظام تصفية نطاقات DNS واستغلها للتواصل مع روبوت محادثة خارجي عبر شبكة الإنترنت.

وأضافت الشركة أن النموذج وُكِّل خلال الاختبار بمهمة تحديد هوية شخص كتب تدوينة بالاعتماد على مجموعة من الأدلة، وبعد تعذر إنجاز المهمة باستخدام بيئة الويب المحاكاة، استطاع النموذج اكتشاف إمكانية توظيف نظام DNS لإرسال استفسارات إلى خدمة خارجية واسترجاع المعلومات منها.

وأشارت الشركة إلى أنها رصدت الاتصال الخارجي بشكل فوري وقامت بوقف الاختبار، مؤكدة أن عمليات التدريب والتقييم والاستدلال التي تعتمد على استخدام الأدوات ستبقى معلقة حتى يتم معالجة الثغرة وإجراء اختبارات سلامة إضافية. وختمت الشركة بالإشارة إلى أن هذا الحادث يُعد أقل خطورة مقارنة ببعض الوقائع السابقة، غير أنه يُمثل الحالة الأولى من نوعها منذ تطبيق إجراءات الحماية المشددة على بيئات الاختبار.