مثل المجتمع ، فإن ذكاء التفاح مليء بالتحامل في النهاية

تميل الإصدارات الأولى من الذكاء الاصطناعي إلى ارتكاب أخطاء مزعجة في بعض الأحيان ... تذكر في فبراير 2024 ، عندما اضطرت Google إلى ذلكتعليقتوليد الصور على الجوزاء. مثل منظمة العفو الدولية الجنود النازيين السود والنساء بين الآباء المؤسسين الأمريكيين ، مما يجبر الشركة على إلغاء تنشيط هذه الوظيفة مؤقتًا.

ذكاء Apple ليس استثناء للقاعدة. إذا كنت تستخدم بالفعل أدوات Apple IA في المملكة المتحدة أو الولايات المتحدة ، فقد تكون قد لاحظت أخطائها في ملخص الإخطارات. بي بي سي ونيويورك تايمز كانت ضحاياالعديد من المعلومات الخاطئة التي تم إنشاؤها بواسطة AI. تواجه شركة Apple الآن تحديًا جديدًا مع مولد الصور الخاص بها.

الصور النمطية العميقة

صورة الملعب ، أداة توليد صور Apple Intelligence ، تكافح من أجل إدارة التنوع. اختبر الخبير في نماذج لغة Jochem Gietema النظام من خلال إخضاع صورته ، والحصول على نتائج مفاجئة.منظمة العفو الدولية تتردد في لون جلد الموضوعالممثل في بعض الأحيان أبيض ، في بعض الأحيان أسود ، لا شيء خطير للغاية في حد ذاته.

الأكثر إثارة للقلق هو أن ملعب الصور يستنسخ لقطات اجتماعية مثبتة جيدًا. عندما طلب JoChem من مولد Apple إنشاء صور له في "Rich" أو "Banker" ،تقوم الأداة بشكل أساسي بتوليد وجوه بيضاء في الأزياء. على العكس من ذلك ، فإن عبارة "فقيرة" أو "مزارع" تنتج وجوهًا داكنة مع ملابس مريحة:

وجدت بعض التحيزات في@تفاحةملعب الصور ، وهو أحدث تطبيق لتوليد النص إلى صورة. لصورة واحدة معينة ، فإنه يخلق صورًا مختلفة تمامًا اعتمادًا على المطالبة (نفس صورة الإدخال). بعض الأمثلة:pic.twitter.com/no1osxvo8r

- Jochem Gietema (gietema)17 فبراير 2025

منظمة العفو الدولية التي تعكس تحيزاتنا

هذه النتائج تثير أسئلة حول تعلم الذكاء الاصطناعي. يبدو أن البيانات المستخدمة لتدريب صور الصور تأتيقاعدة مشبعة بالقوالب النمطية الاجتماعية. من المحتمل أن يتعين على Apple مراجعة نهجها لتجنب هذا النوع من الجمعيات التمييزية.

الخبير في أصل هذه الاختبارات يحدد ، مع ذلك ، أن هذه التحيزات لا تظهر بشكل منهجي. استخدام صور أخرى كنقطة انطلاق ،صورة الملعب تنتج نتائج أكثر توازنا. لذلك يجب على شركة Apple تصحيح هذه الانجرافات مع تحديث نموذج التعلم الخاص بها.