خبراء يطورون دروعًا ضد الذكاء الاصطناعي الخارق.. هل تجاوزنا نقطة اللاعودة؟

في ظل اقتراب البشرية من نقطة اللاعودة، يعمل خبراء أمريكيون على تطوير أنظمة حماية طارئة لمواجهة الخوارزميات التي قد تخرج عن السيطرة، وذلك بالاستعانة بأدوات ذكاء اصطناعي أخرى. ووفقًا لتقرير نشره موقع "أكسيوس"، تقوم الشركات حاليًا باختبار دفاعات متعددة المستويات تهدف إلى اكتشاف السلوكيات المشبوهة، وإيقاف الوكلاء، وقطع وصول الأنظمة المنفلتة إلى الموارد الحيوية.

عاد هذا الملف الهام إلى الواجهة بقوة بعد أن قرر الباحث جيكوب كوكسون، الذي كان يعمل في شركة "أنثروبيك"، مغادرة قطاع تطوير الخوارزميات. وقد حذر كوكسون من أن السباق المحموم بين الشركات قد يؤدي إلى سيناريو كارثي بحلول نهاية عام 2027. وأشار إلى أن شركتي "أنثروبيك" و"أوبن إيه آي" تندفعان نحو تطوير عقل فائق قادر على تحسين نفسه بسرعة تفوق قدرتنا على معالجة مشكلات السلامة المرتبطة به.

من جانبها، تسعى شركة "أوبن إيه آي" إلى تطبيق إجراءات إيقاف مستقلة تمامًا، بحيث تقوم بتنبيه الموظفين وإيقاف النظام تلقائيًا خلال 30 دقيقة في حال التأكد من وجود خطر داهم.