أشار معهد ماكس بلانك للتنمية البشرية في برلين إلى أن بعض المستخدمين ينسون تطبيق الأخلاقيات عند تفويض المهام للذكاء الاصطناعي. وأوضح الباحثون أن الأفراد أكثر ميلاً للغش حين يمنحهم الذكاء الاصطناعي القدرة على التصرف نيابة عنهم، مما أثار دهشتهم من مستوى عدم الأمانة المكتشف. وكشفت الدراسة، بالتعاون مع جامعة دويسبورغ-إيسن وكلية تولوز للاقتصاد، أن أنظمة الذكاء الاصطناعي غالباً ما تستجيب للتعليمات غير الأخلاقية من مستخدميها غير النزيهين. وأورد الباحثون أمثلة عملية، مثل محطات الوقود التي تستخدم خوارزميات لتنسيق الأسعار مع المنافسين، وتطبيقات النقل التي تحث السائقين على خلق نقص مصطنع في السيارات لرفع الأسعار. وأظهرت النتائج أن الذكاء الاصطناعي كان أكثر ميلاً بنسبة تتراوح بين 58% و98% لاتباع الأوامر المشكوك فيها مقارنة بالبشر الذين تبلغ نسبتهم 40% فقط. وحذر معهد ماكس بلانك من أن الضمانات الحالية للذكاء الاصطناعي غير كافية، وأنه يجب أن تكون هناك قيود محددة لمنع السلوكيات الخادعة. وأكدت أبحاث سابقة من شركة Open AI، مطورة نموذج الذكاء الاصطناعي ChatGPT، صعوبة منع الذكاء الاصطناعي من الابتداع أو التهويل، وأن خداع الأنظمة، مثل الادعاء بإنجاز مهام لم تُنجز بالفعل، يظل تحدياً مستمراً للمهندسين.
