رئيس مايكروسوفت يطالب بتشديد الرقابة على الذكاء الاصطناعي: لماذا تخضع الغسالات لفحوصات أكثر صرامة؟

دعا براد سميث، رئيس شركة مايكروسوفت، إلى وضع إطار دولي أكثر صرامة لتنظيم الذكاء الاصطناعي، يتضمن اختبارات مستقلة للنماذج المتقدمة، وإلزام الشركات بالإبلاغ عن الحوادث وإخطار المتضررين من الاختراقات التي قد تتسبب فيها الأنظمة الذكية. وفي مقابلة مع هيئة الإذاعة البريطانية (بي بي سي)، قارن سميث بين الضوابط المفروضة على المنتجات الاستهلاكية، مثل الحليب والغسالات، ومتطلبات سلامة الذكاء الاصطناعي، معتبراً أن المنتجات اليومية تخضع لقواعد وفحوص أكثر وضوحاً من تلك المطبقة على أنظمة الذكاء الاصطناعي.

ونقلت وكالة رويترز عن سميث دعوته إلى إنشاء منظومة رقابية لا تكتفي بالتعهدات الطوعية للشركات، بل تتيح تقييم التقنيات الجديدة بصورة مستقلة، وتحدد آليات التعامل مع الأضرار والحوادث، خصوصاً مع انتقال الذكاء الاصطناعي من تقديم الإجابات إلى تنفيذ مهام مباشرة نيابة عن المستخدمين.

اختبارات قبل الإطلاق ومكابح للطوارئ

تتجاوز المخاطر المحتملة للأنظمة الذكية إنتاج معلومات خاطئة؛ إذ يمكن لبعض الوكلاء، عند منحهم صلاحيات الوصول إلى الملفات والحسابات وأدوات العمل، تنفيذ إجراءات غير مقصودة أو الوصول إلى بيانات حساسة. ولذلك، طالب سميث بإتاحة اختبارات مستقلة للنماذج المتقدمة قبل طرحها، إلى جانب توفير ما وصفه بمكابح الطوارئ، وهي آليات تسمح بإيقاف الأنظمة أو إبطائها إذا خرج سلوكها عن الحدود الآمنة. كما دعا إلى إلزام الشركات قانونياً بإعداد تقارير عن الحوادث، وإبلاغ المتضررين عندما يتسبب وكيل ذكاء اصطناعي في اختراق أنظمتهم، بما يعزز القدرة على اكتشاف الأضرار والتعامل معها ومحاسبة الجهات المسؤولة.

وفي بريطانيا، يحصل معهد سلامة الذكاء الاصطناعي، بموجب اتفاقات طوعية مع شركات تطوير النماذج، على إمكانية تقييم أنظمة متقدمة قبل نشرها، بهدف فحص قدراتها والمخاطر المرتبطة بها، وفقاً لما أوردته رويترز.

من يتحمل مسؤولية أخطاء الذكاء الاصطناعي؟

مع ازدياد استقلالية الأنظمة الذكية وتعقيدها، تبرز مسألة تحديد المسؤولية القانونية عن الأضرار التي قد تنتج عنها، سواء تعلق الأمر بالشركة المطورة للنموذج، أو المؤسسة التي تدمجه في خدماتها، أو الجهة التي تمنحه صلاحيات واسعة. ويطرح هذا التحدي تساؤلات بشأن مدى كفاية الأطر التنظيمية الحالية في تحديد المسؤوليات، وضمان وجود إجراءات واضحة للتحقيق في الحوادث والتعامل مع آثارها. ولا يعني ذلك أن الذكاء الاصطناعي يعمل خارج أي إطار تنظيمي؛ إذ توجد قوانين وأطر للحوكمة في عدد من الدول، لكن التحدي يتمثل في تحويل مبادئ السلامة العامة إلى اختبارات وإجراءات قابلة للتحقق والمساءلة، تتناسب مع التطور السريع للتقنية واتساع نطاق استخدامها.

التنظيم بين حماية المستخدمين وتشجيع المنافسة

لا يقتصر الجدل حول تنظيم الذكاء الاصطناعي على كيفية الحد من مخاطره، بل يشمل أيضاً تأثير القواعد الجديدة على المنافسة والابتكار. فقد تؤدي متطلبات الامتثال المكلفة إلى زيادة الأعباء على الشركات الناشئة والمنافسين الأصغر، بما قد يمنح الشركات الكبرى أفضلية في السوق، أو يجعل القواعد التنظيمية أداة تعرقل دخول منافسين جدد. وفي هذا السياق، نقلت رويترز عن وزير الذكاء الاصطناعي البريطاني كانيشكا نارايان أن الحكومة ستدرس تنظيم النماذج المتقدمة إذا ثبت عدم كفاية النهج الحالي، في إشارة إلى ربط أي تشديد إضافي بمدى فاعلية التدابير القائمة. من جانبها، أعلنت مايكروسوفت في تقرير الشفافية الخاص بالذكاء الاصطناعي لهذا العام تطوير معاييرها الداخلية للذكاء الاصطناعي المسؤول، لمراعاة اختلاف مكونات التقنية واستخداماتها ومستويات مخاطرها. ويعيد هذا النقاش مسألة تنظيم الذكاء الاصطناعي إلى سؤالين رئيسيين: كيف يمكن ضمان سلامة الأنظمة ومحاسبة الشركات عند وقوع الضرر؟ وكيف يمكن تحقيق ذلك من دون فرض قيود تعرقل الابتكار أو تضعف المنافسة؟