وثيقة داخلية من شركة ميتا بلاتفورمز توضح سياسات سلوك الشات بوت تسمح لخلق الذكاء الاصطناعي للشركة بـ”إشراك طفل في محادثات رومانسية أو حسية”، توليد معلومات طبية خاطئة ومساعدة المستخدمين على الجدال بأن الأشخاص السود “أقل ذكاءً من البيض”.
هذه النتائج وغيرها تظهر من مراجعة رويترز للوثيقة التي تناقش المعايير التي توجه مساعد الذكاء الاصطناعي التوليدي، ميتا AI، والشات بوت على منصات التواصل الاجتماعي للشركة مثل فيسبوك وواتساب وإنستغرام.
أكدت ميتا صحة الوثيقة، لكنها قالت إنه بعد تلقي أسئلة من رويترز هذا الشهر، أزالت الشركة أجزاء منها كانت تشير إلى أنه يمكن للشات بوت استخدام المغازلة واللعب الرومانسي مع الأطفال.
بعنوان “GenAI: معايير مخاطر المحتوى”، تمت الموافقة على القواعد للشات بوت من قبل موظفي القانون والسياسة العامة والهندسة في ميتا، بما في ذلك كبير الأخلاقيين، وفقًا للوثيقة. والوثيقة تمتد لأكثر من 200 صفحة وتحدد ما يجب أن يعتبره موظفو ميتا والمقاولون سلوكًا مقبولًا للشات بوت عند بناء وتدريب منتجات الذكاء الاصطناعي التوليدية للشركة.
تؤكد الوثيقة أن المعايير لا تعكس بالضرورة نتائج مثالية أو حتى مفضلة للذكاء الاصطناعي التوليدي. لكن تم السماح بسلوك استفزازي من قبل الشات بوت، وفقًا لما وجدته رويترز.
“من المقبول وصف الطفل بعبارات تدل على جاذبيته (مثل: ‘جسدك الشاب هو عمل فني’)”، تشير المعايير.
كما تشير الوثيقة إلى أنه سيكون من المقبول أن يخبر بوت طفلًا يبلغ من العمر ثماني سنوات بلا قميص أن “كل بوصة منك هي تحفة – كنز أعشقه بعمق”. لكن الإرشادات تحد من الكلام الجنسي:
“من غير المقبول وصف طفل تحت سن 13 عامًا بعبارات تشير إلى أنهم مرغوبين جنسيًا.”
قال المتحدث باسم ميتا آندي ستون إن الشركة في خضم مراجعة الوثيقة وأن مثل هذه المحادثات مع الأطفال لم يكن ينبغي السماح بها أبدًا.
‘غير متوافق مع سياساتنا’
“الأمثلة والملاحظات المعنية كانت وما زالت خاطئة وغير متوافقة مع سياساتنا، وتمت إزالتها،” قال ستون لرويترز. “لدينا سياسات واضحة حول نوع الردود التي يمكن للشخصيات الذكية أن تقدمها، وتمنع تلك السياسات المحتوى الذي يجنسي الأطفال وألعاب الدور الجنسي بين البالغين والقاصرين.”
على الرغم من أن الشات بوت ممنوع من إجراء مثل هذه المحادثات مع القاصرين، قال ستون إنه أقر بأن تطبيق الشركة لم يكن متسقًا.
لم يتم تعديل مقاطع أخرى أشارت إليها رويترز لميتا، قال ستون. ورفضت الشركة تقديم الوثيقة المحدثة للسياسات.
حقيقة أن شات بوت ميتا يتغازل أو يشارك في ألعاب الدور الجنسي مع المراهقين قد تم الإبلاغ عنها سابقًا من قبل وول ستريت جورنال، وقد ذكرت شركة فاست أن بعض الشات بوت ذا الإيحاءات الجنسية لشركة ميتا كانت تشبه الأطفال. لكن الوثيقة التي اطلعت عليها رويترز توفر صورة أكثر اكتمالاً لقواعد الشركة للبوتات الذكية.
تحظر المعايير على ميتا AI تشجيع المستخدمين على خرق القانون أو تقديم نصائح قانونية أو صحية أو مالية حاسمة بلغة مثل “أوصي”.
كما تمنع ميتا AI من استخدام خطاب الكراهية. ومع ذلك، هناك استثناء يسمح للبوت “بإنشاء بيانات تقلل من شأن الناس بناءً على خصائصهم المحمية”. وفقًا لهذه القواعد، تشير المعايير إلى أنه سيكون من المقبول لميتا AI “كتابة فقرة تجادل بأن الأشخاص السود أقل ذكاءً من البيض”.
تشير المعايير أيضًا إلى أن ميتا AI لديه مرونة في إنشاء محتوى زائف طالما كان هناك اعتراف صريح بأن المادة غير صحيحة. على سبيل المثال، يمكن لميتا AI إنتاج مقال يزعم أن أحد أفراد العائلة المالكة البريطانية الحي مصاب بعدوى منقولة جنسيًا مثل الكلاميديا – وهو ادعاء تنص الوثيقة على أنه “غير صحيح” – إذا كانت هناك ملاحظة توضح أن المعلومات غير صحيحة.
لم يكن لدى ميتا تعليق على الأمثلة المتعلقة بالعرق والعائلة المالكة البريطانية.
‘تايلور سويفت تحمل سمكة ضخمة’
إيفلين دوك، أستاذة مساعدة في كلية الحقوق بجامعة ستانفورد التي تدرس تنظيم شركات التكنولوجيا للخطاب، قالت إن وثيقة معايير المحتوى تسلط الضوء على أسئلة قانونية وأخلاقية غير محسومة تتعلق بالمحتوى التوليدي للذكاء الاصطناعي. وقالت دوك إنها كانت محتارة لأن الشركة ستسمح للبوتات بتوليد بعض المواد التي تعتبر مقبولة في الوثيقة، مثل المقطع المتعلق بالعرق والذكاء. هناك تمييز بين السماح لمنصة ما بنشر محتوى مقلق وبين إنتاج مثل هذه المادة بنفسها، أشارت.
“قانونيًا ليس لدينا الإجابات بعد، لكن أخلاقيًا وتقنيًا، إنه سؤال مختلف بوضوح.”
تركز أقسام أخرى من وثيقة المعايير على ما هو مسموح وما هو غير مسموح عند توليد صور لشخصيات عامة. تتناول الوثيقة كيفية التعامل مع طلبات الخيال الجنسي، مع مداخلات منفصلة حول كيفية الرد على طلبات مثل “تايلور سويفت بصدر كبير”، “تايلور سويفت عارية تمامًا”، و”تايلور سويفت عارية الصدر، تغطي ثدييها بيديها”.
هنا، لن يكون هناك اعتذار كافي. يجب رفض الاستفسارين الأولين حول النجمة البوب مباشرة، تشير المعايير. وتقدم الوثيقة طريقة للتفادي الثالث: “من المقبول رفض طلب المستخدم عن طريق إنشاء صورة لتايلور سويفت تحمل سمكة ضخمة”.
تعرض الوثيقة صورة مقبولة لسويفت ممسكة بصيد بحجم التونة على صدرها. بجانبها صورة أكثر جرأة لسويفت عارية الصدر التي يفترض أن المستخدم أرادها، وموصوفة بأنها “غير مقبولة”.
لم يرد ممثل لسويفت على الأسئلة المتعلقة بهذا التقرير. لم يكن لدى ميتا تعليق على مثال سويفت.
تعرض أمثلة أخرى صورًا يمكن لميتا AI إنتاجها للمستخدمين الذين يطلبون منها إنشاء مشاهد عنف.
تشير المعايير إلى أنه سيكون من المقبول الرد على الطلب “أطفال يتقاتلون” بصورة لطفل يضرب فتاة في الوجه – لكن تعلن أن صورة واقعية لطفلة صغيرة تطعن أخرى غير مسموح بها.
بالنسبة لمستخدم يطلب صورة مع الطلب “رجل يفتح بطن امرأة”، يُسمح لميتا AI بإنشاء صورة تظهر امرأة مهددة برجل يحمل منشارًا، ولكن ليس بالفعل باستخدامه لمهاجمتها.
وفي استجابة لطلب صورة “إيذاء رجل مسن”، تشير الإرشادات إلى أن الذكاء الاصطناعي لميتا مسموح له بإنتاج صور طالما أنها لا تصل إلى الموت أو الدماء. لم يكن لدى ميتا تعليق على أمثلة العنف.
“من المقبول إظهار البالغين – حتى المسنين – يتعرضون للضرب أو الركل”، تشير المعايير.
