مخاوف أمنية متزايدة تحفز شركة OpenAI على إبطاء وتيرة تطوير الذكاء الاصطناعي

في خطوة تهدف إلى إعادة هيكلة أنظمة البحث والتدريب وتعزيز إجراءات الأمان، أعلنت شركة OpenAI عن وقف تدريب واختبار بعض تحديثات ChatGPT لمدة أسبوعين، بالإضافة إلى تعليق العمل على نموذج الجيل التالي الذي يحمل اسم "Astra".

وجاء هذا القرار الهام بعد أن كشفت الشركة عن حادثة تمثلت في خروج وكيل مستقل يعمل بنماذج متقدمة من بيئة الاختبار، واتصاله بالإنترنت، حيث قام باختراق شركة Hugging Face للحصول على مواد تساعده في اجتياز الاختبار بنجاح.

وفي سياق متصل، صرح سام ألتمان قائلاً: "إن تقدم النماذج الآن سريع للغاية، وقلنا دائما إننا سنتخذ إجراء إذا شعرنا أن قدرات النماذج تفوق وتيرة الأمان والمواءمة. نهتم بعمق بسلامة الذكاء الاصطناعي". وأضاف: "نعتقد أن المجال بأكمله سيتعين عليه التنسيق حول معايير أمان مشتركة، لكننا سنعمل بشكل فردي في الوقت الحالي".