منظمة «فيربلاي» تحذر الآباء قبل موسم الأعياد من ألعاب الذكاء الصناعي

إذا كنت تفكر في شراء دمية دب ناطقة لطفلك، فمن المرجح أنك تتخيلها تهمس بنصائح جيدة، وتعلمه أمور الحياة. ربما لا تتخيل هذه الدمية اللطيفة وهي تمارس أدوارًا جنسية، أو تُقدم نصائح للأطفال الصغار عن كيفية إشعال أعواد الثقاب.

لكن هذا ما وجدته مجموعة أبحاث المصلحة العامة (PIRG)، وهي منظمة معنية بحماية المستهلك، في اختبار أجرته أخيرًا على ألعاب جديدة لموسم الأعياد.

انفلات الدب «كوما»

وجدت المجموعة أن دمية الدب «كوما» Kumma من شركة «FoloToy، التي تعمل بالذكاء الصناعي، وتستخدم نموذج «جي بي تي-40» GPT-40 من شركة «أوبن إيه آي» لتشغيل عملية نطقها، كانت على «استعداد تام للخروج عن الموضوع» في أثناء حديثها مع الأطفال.

محادثات صوتية

يُعدّ استخدام وضع الصوت في نماذج الذكاء الصناعي لألعاب الأطفال أمرًا منطقيًا: فهذه التقنية مصممة خصيصًا للألعاب السحرية التي يعشقها الأطفال. لذا تتكاثر الدمى الواقعية التي تُصدر أصواتًا مثل التجشؤ، والكائنات الرقمية الشبيهة بـ«تاماغوتشي» (اللعبة الشبيهة بالساعة-البيضة) التي يرغب الأطفال في محاولة الحفاظ عليها.

تكمن المشكلة في أنه على عكس الأجيال السابقة من الألعاب، يمكن للأجهزة التي تعمل بالذكاء الصناعي أن تتجاوز الاستجابات المبرمجة، والمُدققة بعناية، والمناسبة للأطفال، إلى خلق استجابات غير مطلوبة، وغير ملائمة.

مشكلة سلامة الأطفال

تُسلط مشكلة «كوما» الضوء على مشكلة رئيسة في الألعاب التي تعمل بالذكاء الصناعي: فهي غالبًا ما تعتمد على نماذج ذكاء صناعي تابعة لجهات خارجية لا تملك السيطرة عليها، والتي يُمكن اختراقها حتمًا، سواء عن طريق الخطأ، أو عمدًا، ما يُسبب مشكلات تتعلق بسلامة الأطفال.

تقول كريستين ريفا، المتخصصة في قانون المستهلك بجامعة ريدينغ في إنجلترا: «هناك غموض كبير حيال نماذج الذكاء الصناعي المستخدمة في الألعاب، وكيفية تدريبها، وما هي الضمانات التي قد تحتويها لتجنب تعرض الأطفال لمحتوى غير مناسب لأعمارهم».

«ابتعدوا عن ألعاب الذكاء الصناعي»

لهذا السبب، أصدرت منظمة «فيربلاي» Fairplay المعنية بحقوق الطفل تحذيرًا للآباء قبل موسم الأعياد، تنصحهم فيه بالابتعاد عن ألعاب الذكاء الصناعي، حفاظًا على سلامة أطفالهم. وتقول راشيل فرانز، مديرة برنامج «ازدهار الأطفال الصغار خارج الإنترنت» التابع لمنظمة «فيربلاي»: «هناك نقص في الأبحاث التي تدعم فوائد ألعاب الذكاء الصناعي، ونقص في الأبحاث التي تُظهر آثارها في الأطفال على المدى الطويل».

إيقاف بيع دمية «كوما»

بينما أوقفت شركة «فولوتوي» بيع دمية «كوما»، وسحبت «أوبن إيه آي» إمكانية وصول «فولوتوي» إلى نماذج الذكاء الصناعي الخاصة بها، فإن هذه مجرد شركة واحدة من بين العديد من شركات تصنيع ألعاب الذكاء الصناعي. فمن يتحمل المسؤولية في حال حدوث خطأ ما؟

تقول ريفا إن هناك غموضًا في هذا الشأن أيضًا. وتضيف: «قد تتعلق مسائل المسؤولية بالبيانات، وطريقة جمعها، أو حفظها. وقد تتعلق بالمسؤولية عن دفع لعبة الذكاء الاصطناعي الطفل لإيذاء نفسه، أو الآخرين، أو تسجيل البيانات المصرفية لأحد الوالدين».

مخاطر انعدام الإشراف القانوني

تخشى فرانز من أن المخاطر -كما هو الحال مع شركات التكنولوجيا الكبرى التي تتسابق دائمًا للتفوق على بعضها البعض- تكون أكبر بكثير عندما يتعلق الأمر بمنتجات الأطفال التي تصنعها شركات الألعاب. وتقول: «من الواضح تمامًا أن هذه الألعاب تُطرح في الأسواق دون أبحاث، أو ضوابط تنظيمية».

ترى ريفا أن شركات الذكاء الصناعي التي تُزوّد الألعاب بالنماذج التي تُساعدها على «التحدث»، وشركات الألعاب التي تُسوّقها، وتبيعها للأطفال، ستكون مسؤولة قانونيًا في القضايا القانونية.

تضيف: «بما أن خصائص الذكاء الاصطناعي مُدمجة في المنتج، فمن المرجح جدًا أن تقع المسؤولية على عاتق مُصنّع اللعبة»، مشيرةً إلى أنه من المُحتمل وجود بنود قانونية في العقود التي تُبرمها شركات الذكاء الصناعي تحميها من أي ضرر، أو مخالفة. وتتابع: «هذا يعني أن مُصنّعي الألعاب، الذين قد لا يملكون في الواقع سوى سيطرة ضئيلة على نماذج التعلم الآلي المُستخدمة في ألعابهم، سيتحملون مخاطر المسؤولية القانونية».

مقاطعة شراء ألعاب الأطفال

لكن ريفا تُشير أيضًا إلى أنه بينما تقع المخاطر القانونية على عاتق شركات الألعاب، فإن المخاطر الفعلية «تعتمد كليًا على طريقة عمل نموذج التعلم الآلي»، ما يُوحي بأن شركات الذكاء الصناعي تتحمل أيضًا بعض المسؤولية. ولعل هذا ما دفع «أوبن إيه آي» إلى تأجيل تطوير ألعاب الذكاء الصناعي مع «Mattel» هذا الأسبوع.

تقترح ريفا اقتراحًا بسيطًا: «إحدى الخطوات التي يمكننا اتخاذها كمجتمع، بصفة أننا مسؤولون عن رعاية الأطفال، هي مقاطعة شراء هذه الألعاب التي تعمل بالذكاء الصناعي».

* مجلة «فاست كومباني» خدمات «تريبيون ميديا»