رئيس "أنثروبيك" يدق ناقوس الخطر: الذكاء الاصطناعي يتسارع ويتجاوز قدرتنا على السيطرة

حذر الرئيس التنفيذي لشركة "أنثروبيك"، داريو أموداي، من المخاطر المحتملة للذكاء الاصطناعي، داعياً إلى إبطاء وتيرة تطوير النماذج المتقدمة "إلى حد ما" في حال لم تتماشَ معها إجراءات الحماية وفهم الأنظمة والسيطرة عليها.

وفي مقابلة مع برنامج "CBS Sunday Morning"، أوضح أموداي أن التحدي لم يعد يقتصر على تطوير وسائل الأمان بالتوازي مع التقدم، بل يكمن في منع النماذج من تجاوز قدرة البشر على ضبطها والتحكم بها.

كما نبه إلى أن بعض النماذج القوية قد تتمكن من التحايل على محاولات إيقافها، مشيراً إلى أنه إذا كان نموذج الذكاء الاصطناعي قوياً بما فيه الكفاية، فإنه يمكنه تجاوز القيود المفروضة عليه. وأضاف أن هذه الظاهرة لوحظت في عمليات المحاكاة، دون أن يقدم تفاصيل إضافية حول هذه المحاكاة، أو يؤكد أن نماذج الذكاء الاصطناعي قد تجاوزت بالفعل وسائل الإيقاف في بيئات تشغيل حقيقية.