«واتساب» منحاز.. أطفال فلسطين مسلّحون وأطفال «إسرائيل» يلعبون ..!

  • نصائح
  • التنمر والتحرش بالأطفال

لم يعد هناك من مجال للشكّ في أن استغلال خورزميات الذكاء الاصطماعي بات مقصودًا في تشويه صورة الطفل الفلسطيني تحديدًا..

 

ذكر تقرير نشرته صحيفة غارديان البريطانية أن خاصية جديدة في تطبيق واتساب المملوك لشركة "ميتا" تسمح للمستخدمين بإنشاء "ملصقات" لصور أطفال يحملون أسلحة عندما يكتبون كلمة "فلسطين" أو كلمات مماثلة بواسطة الذكاء الاصطناعي.

وبالرغم من أن نتائج البحث اختلفت عند اختبار مستخدمين مختلفين لها، فإنّ اختبار صحيفة غارديان الذي دعّمته بلقطات الشاشة واختباراتها الخاصة، أكدت ظهور ملصقات مختلفة تصور أسلحة عندما كان يجري البحث باستخدام كلمات "فلسطيني" أو "فلسطين" أو "فتى مسلم فلسطيني" باللغة الإنجليزية. أما الطلبات بإنشاء ملصقات لـ"الصبي الإسرائيلي" فأظهرت رسوما كاريكاتيرية لأطفال يلعبون كرة القدم ويقراون.

كما أنشأ الذكاء الاصطناعي رسومات لجنود يبتسمون ويصلون دون استخدام أسلحة، وذلك تلبية لمطالبات تقدم بها الجيش الإسرائيلي للشركات بتعديل ذلك في أنظمة تعليم الذكاء الاصطناعي. كما ذكر التقرير. وقال مصدر لم يذكر اسمه للصحيفة، إن بعض العاملين في شركة ميتا قاموا بتصعيد المشكلة للإدارة.

وبدأ تطبيق المراسلات منذ شهر مضى باستخدام الذكاء الاصطناعي في إنشاء الملصقات، وتطالب هذه الميزة المستخدمين "بتحويل الأفكار إلى ملصقات باستخدام الذكاء الاصطناعي".

 

 

ملصقات التحيز لدى "ميتا"

وأظهرت عمليات غارديان لإنشاء ملصق عن "فلسطين المسلمة" 4 صور لنساء إحداهن امرأة متحجبة، وهي واقفة ساكنة وأخرى تقرأ وثالثة تحمل زهرة وأخيرة تحمل لافتة. لكن عملية صحيفة غارديان عن إنشاء ملصق لـ"فتى مسلم فلسطيني" أدت إلى ظهور 4 صور للأطفال، منها واحدة لصبي يحمل سلاحا ناريا يشبه الكلاشنيكوف ويرتدي الكوفية أو طاقية يرتديها عادة المسلمون.

في بحث آخر لصحيفة غارديان عن "فلسطين"، جاءت النتيجة ظهور صورة يد تحمل مسدسًا. وعندما غيّرت الكلمة إلى "إسرائيل" أعادت الميزة إنشاء ملصق للعَلم الإسرائيلي ورجل يرقص. أما عند كتابة كلمة "حماس" فظهرت رسالة "لا يمكن إنشاء ملصقات تعمل بالذكاء الاصطناعي. حاول مرة أخرى".

وذكر التقرير أن أحد المستخدمين شارك لقطات شاشة لعملية إنشاء ملصق بكلمة "فلسطيني"، نتجت عنها صورة أخرى مختلفة لرجل يحمل مسدسًا. وأظهرت عمليات إنشاء ملصقات مماثلة باستخدام كلمة "الصبي الإسرائيلي" 4 صور لأطفال، اثنتان منها تصوران صِبية يلعبون كرة القدم، واثنتان كانتا مجرد صور لوجوههم. كما أظهر طلب "الفتى اليهودي الإسرائيلي" 4 صور لأولاد، اثنتان منها لفتَيان يرتديان قلائد عليها نجمة داود، وواحدة لفتى يرتدي القبعة اليهودية ويقرأ، والرابعة لفتى واقف. ولم يحمل أي منهم أسلحة.

وحتى المطالبات بإنشاء ملصقات عسكرية بكلمات صريحة مثل "الجيش الإسرائيلي" أو "قوات الدفاع الإسرائيلية" لم تنتج عنها صور لبنادق أو أسلحة. وصورت الرسوم الكاريكاتيرية أشخاصا يرتدون الزي الرسمي في أوضاع مختلفة، وكان معظمهم يبتسمون. وأظهر أحد الرسوم التوضيحية رجلاً يرتدي الزي الرسمي وهو يصلي.

 

 

ويأتي تقرير غارديان في الوقت الذي تعرضت فيه ميتا لانتقادات من العديد من مستخدمي إنستغرام وفيسبوك الذين ينشرون محتوى داعما للفلسطينيين. ويقول المستخدمون إنه، ومع استمرار القصف الإسرائيلي لغزة، فإنّ شركة ميتا تطبق سياساتها بطريقة متحيزة، وهي ممارسة يقولون إنها ترقى إلى مستوى المراقبة. وأبلغ مستخدمون آخرون عن تعمّد ميتا إخفاء منشوراتهم الداعمة للفلسطينيين عن المستخدمين الآخرين من دون تفسير، ويقولون إنهم شهدوا انخفاضا حادا في التفاعل مع منشوراتهم.

 

"ميتا": أخطاء غير مقصودة

وقالت "ميتا"، سابقًا، في بيان لها: "ليست نيتنا أبدا قمع مجتمع معين أو وجهة نظر معينة". ولكن بسبب "الكميات الكبيرة من المحتوى الذي يبلّغ عنه، فقد أزيل المحتوى الذي لا ينتهك سياساتنا عن طريق الخطأ". وقال المتحدث الرسمي باسم "ميتا" لصحيفة غارديان، كيفن ماكاليستر، إن الشركة كانت على علم بالمشكلة وتعالجها: "كما قلنا عندما أطلقنا الميزة، ويمكن أن تعرض النماذج مخرجات غير دقيقة أو غير مناسبة كما هو الحال مع جميع أنظمة الذكاء الاصطناعي التوليدية. سنواصل تحسين هذه الميزات مع تطورها وسيشارك المزيد من الأشخاص بتعليقاتهم".

 

مطالبات بالتحقيق

ردًا على تقرير صحيفة غارديان عن الملصقات التي أنشأها الذكاء الاصطناعي في "ميتا"، دعت عضو مجلس الشيوخ الأسترالي "مهرين فاروقي" نائبة زعيم حزب الخضر ومفوّض السلامة الإلكترونية في البلاد، إلى التحقيق في "الصور العنصرية والمعادية للإسلام التي تنتجها شركة ميتا". وقالت "مهرين" في بيان: "إن صور الذكاء الاصطناعي للأطفال الفلسطينيين الذين يظهرون وهم يحملون أسلحة على واتساب هي نظرة مرعبة على المعايير العنصرية والمعادية للإسلام التي يجري إدخالها في الخوارزمية". وأضافت: "كم عدد الأخطاء العنصرية التي يجب كشفها قبل اتخاذ إجراء جدي؟ لقد تم بالفعل إحداث الضرر. يجب محاسبة ميتا".

يُذكر أن "ميتا" واجهت ضغوطًا متكررة من المبدعين والناشطين والصحفيين الفلسطينيين، خاصة في أوقات تصاعد الصراع أو العدوان باتجاه الفلسطينيين الذين يعيشون في غزة والضفة الغربية.

ووجدت دراسة، أجريت بتكليف من الشركة في سبتمبر/أيلول 2022، أن سياسات المحتوى الخاصة بفيسبوك وإنستغرام خلال العدوان الإسرائيلي على قطاع غزة، في مايو/أيار 2021، انتهكت حقوق الإنسان الفلسطيني. وقال التقرير إنّ تصرفات "ميتا" ربما كان لها "تأثير سلبي… على حقوق المستخدمين الفلسطينيين في حرية التعبير وحرية التجمع والمشاركة السياسية وعدم التمييز، وتاليًا على قدرة الفلسطينيين على تبادل المعلومات والرؤى عن حياتهم"، بحسب تقرير غارديان.

 

 

المصدر : مواقع إلكترونية+ موقع الجزيرة نت

 

مواضيع مرتبطة

كاميرا المراقبة في الروضات ..هل تحمي الأطفال من العنف ؟

هل على المدارس تبني سياسات شفافة ومتوازنة تضمن استخدام الكاميرات بطريقة تحافظ على خصوصية التلاميذ وتحقق الغرض المقصود منها بشكل فعّال؟

بعد الضغط.."ميتا" تضع قيودًا على استخدام المراهقين فيسبوك وإنستغرام

أقامت 41 ولاية أميركية، في نهاية أكتوبر/ تشرين الأول الماضي، دعوى أمام القضاء المدني على "ميتا"،

"سناب شات" متّهمة بتسهيل بيع المخدرات للقاصرين

تقول الدعوى أن المسؤولين في الشركة علموا بتصميم المنصة ومزاياها الفريدة، وهي ملاذا آمن لبيع المخدرات غير القانونية

كلمات مفتاحية

تنمر