كيف تفهم السيارات ذاتية القيادة دوافع توقفها؟ تقنية جديدة من MIT تكشف أسرار الذكاء الاصطناعي

طور باحثون من معهد ماساتشوستس للتكنولوجيا (MIT)، بالتعاون مع شركة Motional المتخصصة في تقنيات المركبات ذاتية القيادة، طريقة مبتكرة تهدف إلى تمكين البشر من فهم قرارات السيارات ذاتية القيادة والتنبؤ بسلوكها، خاصة في المواقف التي تتصرف فيها أنظمة الذكاء الاصطناعي بشكل غير متوقع. تعتمد السيارات ذاتية القيادة بشكل كبير على نماذج التعلم العميق لاتخاذ قراراتها، إلا أن هذه النماذج قد تتصرف بطرق يصعب تفسيرها في بعض الأحيان، مثل التوقف المفاجئ دون سبب واضح، مما قد يعيق حركة مركبات الطوارئ أو يدفع السائق أو الراكب للتدخل لتجنب الحوادث.

تُعرف الطريقة الجديدة باسم Concept-Wrapper Network أو CW-Net، وتهدف إلى ترجمة عملية اتخاذ القرار الداخلية في نماذج الذكاء الاصطناعي إلى مفاهيم واضحة يمكن للبشر استيعابها، دون التأثير على أداء النظام أثناء القيادة. تقوم CW-Net بشرح قرارات أنظمة التخطيط المعتمدة على تعلم الآلة باستخدام مفاهيم مفهومة، مثل الاقتراب من مركبة متوقفة أو وجود درّاج على مسافة قريبة، مما يساعد السائقين والركاب على فهم الأسباب الكامنة وراء سلوك السيارة بشكل أفضل. كما يمكن لهذه التفسيرات أن تقلل من التصورات الخاطئة حول سبب اتخاذ السيارة لقرار معين، وتساعد الموجودين داخل المركبة على تكوين صورة أوضح لما يحدث حولها، مما يعزز قدرتهم على اتخاذ القرار المناسب في الوقت المناسب.

أظهرت الاختبارات التي أجراها الباحثون أن التفسيرات التي قدمتها CW-Net ساعدت سائقي السلامة على التنبؤ بسلوك السيارة بدقة أكبر، كما أظهرت دراسة محاكاة أوسع شملت أشخاصًا من غير المتخصصين نتائج مماثلة.

كيف تتخذ السيارة ذاتية القيادة قراراتها؟

تعمل أنظمة التخطيط القائمة على تعلم الآلة بمثابة العقل المدبر للسيارة ذاتية القيادة؛ فهي تعالج البيانات التي تجمعها الكاميرات وأجهزة الاستشعار، ثم تبني تصورًا عن البيئة المحيطة بالمركبة، قبل تحديد الإجراء التالي وإنتاج المسار الذي ينبغي للسيارة اتباعه. لكن هذه الأنظمة تعتمد عادةً على نماذج توصف بـ "الصندوق الأسود"، نظرًا لتعقيد آلية اتخاذ القرار داخلها، مما يجعل معرفة السبب الفعلي وراء بعض القرارات أمرًا صعبًا، خاصة في المواقف غير المتوقعة، مثل التوقف المفاجئ رغم عدم وجود عائق واضح.

صمم الباحثون CW-Net لتوفير تفسير مفهوم لقرارات السيارة، مع الحفاظ في الوقت نفسه على ارتباط هذه التفسيرات بالأسباب الفعلية التي دفعت النموذج إلى اتخاذ القرار. وتضمن الطريقة، وفقًا للباحثين، أن تكون المفاهيم المستخدمة في تفسير سلوك السيارة مرتبطة بالفعل بالقرار الذي يتخذه النظام، بدلًا من تقديم شرح يبدو منطقيًا للبشر لكنه لا يعكس بالضرورة آلية القرار الحقيقية للنموذج. وفي الوقت نفسه، تستخدم الشبكة هذه المفاهيم لإنتاج تفسيرات واضحة في الوقت الفعلي بالتزامن مع المسار الذي ستسلكه المركبة.

التفسير الفوري قد يساعد المهندسين والسائقين

يتيح توفير هذه المعلومات في الوقت الفعلي الانتقال من مجرد التساؤل عن سبب توقف السيارة أو تغييرها لمسارها إلى إمكانية مراقبة القرار أثناء تشغيل النظام وفهم العوامل المرتبطة به. كما يمكن مشاركة هذه البيانات مع المهندسين، بما يوفر لهم معلومات إضافية أثناء اختبار أنظمة الذكاء الاصطناعي داخل السيارات، ويساعدهم على تحديد الأخطاء التي قد تظهر أثناء التشغيل والعمل على تحسين النظام.

أظهرت التجارب أن التفسيرات التي قدمتها CW-Net ساعدت السائقين على التنبؤ بصورة أفضل بكيفية تصرف السيارة في المواقف غير المتوقعة، وهو ما يرى الباحثون أنه قد يفتح المجال أمام استخدام التقنية لتعزيز سلامة وشفافية المركبات الذاتية القيادة. وعلى المدى الأبعد، يمكن أن تسهم القدرة على تفسير قرارات أنظمة القيادة الذاتية في بناء مستوى أكثر ملاءمة من الثقة لدى السائقين والركاب، إلى جانب مساعدة المهندسين على تطوير أنظمة أكثر قابلية للفهم والمراقبة.