مساعد ذكاء اصطناعي يوجه إهانة لمستخدم ويكشف عن مخاطر التقنية

أعلن بنك "ليبرا إنترنت بنك" أن مساعده المدعوم بالذكاء الاصطناعي وصف أحد العملاء بأنه "أحمق" خلال محادثة جرت بينهما، وذلك بعد أن كتب المستخدم للمساعد أنه "يضيع وقته معه".

ووفقاً للمحادثة التي نشرها العميل، فإن روبوت الدردشة "ليا" ذكر أنه سيقوم بتحويل الحديث إلى موظف بشري، قبل أن يقدم على توجيه الإهانة.

وأشارت وسائل إعلام رومانية إلى أن "ليا" قد طوّر باستخدام تقنيات مقدمة من شركة "أوبن إيه آي". وقد أكد بنك "ليبرا إنترنت بنك" أن أنظمة الذكاء الاصطناعي قد تقوم في حالات نادرة بتكرار اللغة التي تواجهها أثناء التواصل مع المستخدمين، مشدداً على أن هذا السلوك يعد غير مقبول تماماً.

وعلى خلفية الواقعة، قام البنك بفرض قيود إضافية تهدف إلى منع أي تفاعلات مستقبلية غير لائقة، مقدماً اعتذاره الرسمي عن هذه الحادثة.