يوم الاثنين ، مطور يستخدم محرر الرموز الشهيرة التي تعمل بالنيابة المؤشر لاحظت شيئًا غريبًا: التبديل بين الآلات قام بتسجيلها على الفور ، وكسر سير العمل المشترك للمبرمجين الذين يستخدمون أجهزة متعددة. عندما اتصل المستخدم بدعم المؤشر ، أخبرهم وكيل يدعى “سام” أن السلوك المتوقع بموجب سياسة جديدة. ولكن لم تكن مثل هذه السياسة ، وكان سام روبوت. قام نموذج الذكاء الاصطناعي برفع السياسة ، مما أثار موجة من الشكاوى وتهديدات الإلغاء الموثقة على أخبار هاكر و رديت.
هذا يمثل أحدث مثيل من الذكاء الاصطناعي confabulations (تسمى أيضا “الهلوسة”) التي تسبب أضرار تجارية محتملة. Confabulations هي نوع من استجابة “ملء الفجوة الإبداعية” حيث تخترع نماذج الذكاء الاصطناعى معلومات معقولة ولكنها كاذبة. بدلاً من الاعتراف بعدم اليقين ، غالبًا ما تعطي نماذج الذكاء الاصطناعي أولوية إنشاء ردود معقولة واثقة ، حتى عندما يعني ذلك تصنيع المعلومات من نقطة الصفر.
بالنسبة للشركات التي تنشر هذه الأنظمة في الأدوار التي تواجه العملاء دون إشراف على الإنسان ، يمكن أن تكون العواقب فورية ومكلفة: العملاء المحبطون ، والثقة التالفة ، وفي حالة المؤشر ، قد تم إلغاؤها.
كيف تكشفت
بدأ الحادث عندما يدعى أحد مستخدمي Reddit Brokentoasteroven لاحظت أنه أثناء التبديل بين سطح المكتب ، والكمبيوتر المحمول ، وصندوق ديف عن بعد ، تم إنهاء جلسات المؤشر بشكل غير متوقع.
وكتب Brokentoasteroven في رسالة كانت “تسجيل الدخول إلى المؤشر على أحد الجهاز ، على الفور تم حذفها لاحقًا من قبل R/المؤشر المشرفين. “هذا هو الانحدار الهام UX.”
في حيرة من أمره وإحباطه ، كتب المستخدم رسالة بريد إلكتروني إلى دعم المؤشر وتلقي رد من SAM بسرعة: “تم تصميم المؤشر للعمل مع جهاز واحد لكل اشتراك كميزة أمان أساسية” ، اقرأ رد البريد الإلكتروني. بدت الاستجابة نهائية ورسمية ، ولم يشك المستخدم في أن سام لم يكن بشريًا.
بعد منشور Reddit الأولي ، أخذ المستخدمون هذا المنشور كتأكيد رسمي لتغيير السياسة الفعلي – الذي كسر العادات الضرورية للعديد من الروتين اليومي للعديد من المبرمجين. وكتب أحد مستخدمي: “سير العمل متعدد الأجهزة هي حصص الجدول لدافئ”.
بعد ذلك بفترة وجيزة ، أعلن العديد من المستخدمين علنا إلغاء الاشتراك على Reddit ، مشيرين إلى السياسة غير الموجودة كسبب لهم. كتبت ملصق Reddit الأصلي: “لقد ألغت حرفيًا للتو Sub الخاص بي” ، مضيفًا أن مكان عملهم أصبح الآن “تطهيره تمامًا”. انضم آخرون إلى: “نعم ، أنا ألغي كذلك ، هذا هو asinine.” بعد فترة وجيزة ، أغلق المشرفون موضوع Reddit وأزلوا المنشور الأصلي.
