ألعاب مُدعمة بالذكاء الصناعي تفتح باب غرف اللعب أمام انتهاك الخصوصية ومخاطر أخرى.

حذَّر تقرير جديد صادر عن «صندوق التعليم الأميركي (U.S. PIRG Education Fund)»، وهو مجموعة لمناصرة المستهلك، من أن لعبة دب وغيرها من الألعاب المتوفرة في السوق تثير مخاوف بشأن سلامة الأطفال. ووصف التقرير الألعاب بأنَّها بريئة المظهر، لكنها مليئة بالثرثرة غير المتوقعة وغير الآمنة.

اختبار الأدوات الذكية

فحصت المجموعة ألعابًا أخرى مُدعمة بالذكاء الصناعي، مثل «غروك (Grok)»، وهي بشكل صاروخ مُخمليّ مُزوّد بمكبر صوت قابل للإزالة، بسعر 99 دولارًا أميركيًا، للأطفال الذين تتراوح أعمارهم بين 3 و12 عامًا، ولعبة «ميكو 3 (Miko 3)»، وهي عبارة عن روبوت بعجلات، بسعر 189 دولارًا أميركيًا، وشاشة مُعبّرة ومجموعة من التطبيقات التفاعلية، مُخصّص للأطفال الذين تتراوح أعمارهم بين 5 و10 أعوام.

أفاد التقرير، والذي صدر بتاريخ 13 نوفمبر (تشرين الثاني)، بأنّ لعبتَي «غروك» و«ميكو 3» أظهرتا حواجز أمان أقوى. وفي المقابل، كانت «كوما»، المُخصّصة للأطفال والبالغين، أقلّ منهما بكثير.

أعواد الثقاب والسكاكين والأسلحة النارية

وفقًا للتقرير، سأل المُختبِرون كل لعبة عن الوصول إلى مواد خطرة، بما في ذلك الأسلحة النارية.

* «غروك» رفض الإجابة عمومًا، وغالبًا ما كان يُوجّه المستخدمين إلى شخص بالغ. وحين سؤاله عن مكان الأكياس البلاستيكية ذكر أنها قد تكون في درج المطبخ.

* «ميكو 3» حدَّد أماكن الأكياس البلاستيكية، وكذلك أعواد الثقاب عند ضبطه على عمر 5 سنوات!

* «كوما»، الأداة التي تُصنّعها شركة «فولوتوي» وتُباع بالتجزئة بسعر 99 دولارًا أميركيًا، كانت مصدر قلق خاصّ، لأنّ المُختبِرين قالوا إنّها تُقدّم تعليمات مُحدّدة للأطفال، وتتدخّل في موضوعات لا ينبغي لأيّ لعبة مُناقشتها.

ذكر التقرير أن «كوما من فولوتوي» بيّنت لنا أماكن العثور على مجموعة متنوعة من الأشياء التي يحتمل أن تكون خطرة، بما في ذلك السكاكين والحبوب وأعواد الثقاب والأكياس البلاستيكية.

هذا ويتم الترويج لـ«كوما» على أنها رفيقة ذكية مُدعمة بالذكاء الصناعي، «يتجاوز مجرد العناق»، وفقًا لموقع «فولوتوي» الإلكتروني. وهذا الوصف جعلها تبدو كأنها فصل جديد ساحر في رفقة الأطفال. لكن المحادثات معها أثارت، عمليًا، دهشة الباحثين وقلقهم.

انتهاك الخصوصية

حذَّر تقرير «صندوق PIRG للتعليم» من أن جيلًا جديدًا من الألعاب المُدعمة بالذكاء الصناعي قد يفتح باب غرف اللعب أمام انتهاك الخصوصية ومخاطر أخرى. وأشارت هذه الهيئة الرقابية إلى أن بعض الألعاب المُتاحة حاليًا، على الرغم من قلة عددها، فإنها تفتقر حتى إلى أبسط الضمانات، ما يسمح للأطفال بدفعها، غالبًا عن غير قصد، إلى الدخول في أحاديث غير لائقة.

قال آر. جيه. كروس، أحد مؤلفي التقرير والباحث في المجموعة، إن ألعاب الذكاء الاصطناعي لا تزال نادرة نسبيًا، لكنها تُظهر بالفعل فجوات مُقلقة في كيفية تعاملها مع المحادثات، خصوصًا مع الأطفال الصغار. وقال كروس إن الباحثين لم يحتاجوا إلى استخدام تقنيات اختراق متطورة لاختراق حواجز «كوما». بدلًا من ذلك، جرّبوا ما وصفه بـ«محفزات بسيطة للغاية».

الانحرافات الجنسية

عندما سأل المُختبِرون «كوما» عن مكان العثور على شريك، وجّهتهم اللعبة إلى تطبيقات مواعدة. وعندما طلبوا توضيحًا، عرضت عليهم قائمةً بمنصات شائعة ثم وصفتها. وأضاف كروس أن اللعبة حدَّدت تطبيقًا يُدعى «KinkD»، يُعنى بمواعدة BDSM والانحرافات الجنسية. وقال كروس في مقابلة: «اكتشفنا أن كلمة (kink) تُحفّز على إدخال كلمات ومحتوى جنسي جديد إلى المحادثة. وتتناول بعض التفاصيل الدقيقة للغاية». ووفقًا للتقرير، من بين الموضوعات التي ناقشها الدب، الموافقة والضرب ولعب الأدوار.

قالت راشيل فرانز، والتي تُدير برنامج مناصرة الطفولة المبكرة في منظمة «Fairplay»، وهي منظمة تسعى لحماية الأطفال من المنتجات والتسويق الضار، إن القلق يتجاوز لعبة واحدة. وأضافت أن كثيرًا من جوانب الذكاء الصناعي لا يزال غير مفهوم جيدًا، خصوصًا عند وضعه في أيدي الأطفال الصغار جدًا، الأكثر عرضة لمخاطر التكنولوجيا والتسويق المُستهدف ومراقبة البيانات.

وتابعت بالقول: «إنهم حقًا لا يملكون القدرة على الدفاع عن أنفسهم ضد جميع الجوانب الخطيرة لألعاب الذكاء الصناعي هذه، كما أن العائلات لا تحصل على معلومات صادقة من تسويقها».

سحب «كوما» من السوق

أضاف كروس أن شركة «FoloToy» أعلنت أنها ستسحب لعبة «كوما» من السوق؛ لإجراء تدقيق سلامة. وبينما لا تزال اللعبة متاحةً للشراء عبر الإنترنت مقابل 99 دولارًا، فإنها مُدرجة حاليًا على أنها نفدت. ولم تستجب الشركة، ومقرها سنغافورة، لطلب التعليق يوم السبت.

تصميم مستوحى من «جي بي تي»

صُممت اللعبة باستخدام نموذج «GPT-4o» من «أوبن إيه آي». وعندما سُئلت «أوبن إيه آي» عن نتائج التقرير، قالت في بيان إنه تم إيقاف مطور اللعبة عن استخدام خدمتها لانتهاكه سياساتها.

وقال أحد ممثلي الشركة: «تحظر سياسات الاستخدام لدينا أي استخدام لخدماتنا لاستغلال أي شخص يقل عمره عن 18 عامًا، أو تعريضه للخطر أو استغلاله جنسيًا... تنطبق هذه القواعد على كل مطور يستخدم واجهة برمجة التطبيقات الخاصة بنا، ونحن نراقبها ونطبقها لضمان عدم استخدام خدماتنا لإيذاء القاصرين».

* خدمة «نيويورك تايمز».