الخوارزميات ترشح للأطفال محتوى يُمجّد إيذاء النفس والعنف المفرط

في ظل اتهامات لشركات التكنولوجيا بالتقصير في حماية المستخدمين الصغار، تتجه حكومات عدة إلى فرض قيود عمرية على منصات التواصل الاجتماعي، في محاولة للحد من المخاطر التي يتعرض لها الأطفال والمراهقون في الفضاء الرقمي. بينما أصبحت أستراليا أول دولة في العالم تحظر وسائل التواصل على من هم دون 16 عاما، يناقش البرلمان الكندي مشروع قانون مماثل، في حين تدرس بريطانيا تبني إجراءات جديدة لتعزيز سلامة الأطفال على الإنترنت.

غير أن التجربة الأسترالية أظهرت تحديات كبيرة في التطبيق وأثارت جدلا مجتمعيا واسعا حول استخدام التكنولوجيا، مما يطرح تساؤلات حول مدى قدرة هذه السياسات على حماية الأطفال، وما إذا كانت تمثل حلا جذريا أم مجرد معالجة جزئية لمشكلة أكثر تعقيدا تتعلق بدور الشركات والحكومات والمجتمعات على حد سواء.

الدوافع

"نحن نخفق في حماية أطفالنا. لقد طفح الكيل. نحتاج إلى توفير الحماية الأساسية"، هكذا علق وزير الثقافة الكندي مارك ميلر على مشروع القانون الذي قدمته الحكومة للبرلمان والذي قد يحظر امتلاك الأطفال دون سن 16 عاما حسابات على وسائل التواصل، ما لم تثبت الشركات قدرتها على جعل منصاتها آمنة بالنسبة لهم. رحبت المديرة التنفيذية للمركز الكندي لحماية الطفل ليانا ماكدونالد بهذه الخطوة، مشيرة إلى أن حالات الابتزاز الجنسي عبر مواقع التواصل شهدت ارتفاعا كبيرا، حسبما نقلت صحيفة غارديان .

خلال العام الماضي، درست دول بينها بريطانيا وماليزيا وفرنسا واليونان وإسبانيا مقترحات مماثلة لمعالجة مشكلات تواجه صغار السن مثل اضطرابات الصحة النفسية، بما في ذلك إدمان وسائل التواصل والاكتئاب، فضلا عن التنمر الإلكتروني وتشتت الانتباه، وفقا لصحيفة نيويورك تايمز . في بريطانيا، حذر كبار مسؤولي الشرطة من أن تصميم منصات التواصل وتطبيقات المراسلة والألعاب الإلكترونية تتيح للمتحرشين بالأطفال استهداف القاصرين على نطاق واسع، إذ يتعرض صغار السن للابتزاز بعد إجبارهم على إرسال صور ومقاطع فيديو عارية.

تقول الشرطة إن الخوارزميات ترشح للأطفال محتوى يُمجّد إيذاء النفس والعنف المفرط، في حين جرى استدراج بعضهم إلى التطرف أو إجبارهم على ارتكاب أعمال عنف، طبقا لنيويورك تايمز. يعتبر رئيس المجلس الوطني لقادة الشرطة في بريطانيا غافين ستيفنز أن الفضاء الرقمي لا يزال ساحة يغيب فيها القانون، إذ فشلت القوانين واللوائح التنظيمية في مواكبة الوتيرة المتسارعة للتكنولوجيا.

كيفية التطبيق

توضح صحيفتا نيويورك تايمز وغارديان أبرز ملامح مشروع القانون الكندي المقترح لحماية الأطفال على الإنترنت، والذي يتضمن:

إلزام المستخدمين بالتحقق من أعمارهم، للتأكد من أنهم بلغوا سن 16 عاما على الأقل، قبل الوصول إلى منصات مثل فيسبوك وتيك توك وإنستغرام.

إنشاء هيئة تنظيمية جديدة تحمل اسم "لجنة السلامة الرقمية في كندا"، تتولى الإشراف على تنفيذ الإجراءات المقترحة.

السماح باستثناءات لبعض المنصات إذا تمكنت الشركات المشغلة لها من إثبات التزامها بمعايير حماية الأطفال التي ستحددها الهيئة التنظيمية.

يشمل مشروع القانون 7 أنواع من المحتوى الضار، من بينها المحتوى الذي يشجع الأطفال على إيذاء أنفسهم، والمحتوى المحرض على العنف والكراهية.

سيتعين أن يحظى المقترح المعروف باسم "قانون وسائل التواصل الاجتماعي الآمنة"، بموافقة مجلسي العموم والشيوخ قبل أن يصبح قانونا نافذا. ومن المتوقع أن يستغرق إنشاء الجهة الرقابية الجديدة ما يصل إلى 18 شهرا. في بريطانيا، تتجه حكومة رئيس الوزراء كير ستارمر إلى إعادة تقييم سياساتها المتعلقة بحماية الأطفال على الإنترنت، حيث تستعرض نيويورك تايمز خلفية التوجهات الجديدة على النحو التالي:

تدرس الحكومة فرض حظر على استخدام منصات التواصل لمن هم دون 16 عاما، في ظل توحد الرأي العام البريطاني حول ضرورة بذل المزيد من الجهود للحفاظ على سلامة الأطفال على الإنترنت. أكد ستارمر أن السؤال لم يعد يتعلق بما إذا كانت الحكومة ستتحرك في هذا الصدد، بل بالإجراءات التي ستتخذها، مشيرا إلى أن القرار سيصدر قريبا. الحكومة السابقة بقيادة حزب المحافظين كانت قد أقرت في عام 2023 قانون السلامة على الإنترنت لتنظيم المحتوى الضار. تتولى هيئة تنظيم الاتصالات في بريطانيا، المعروفة باسم "أوفكوم" (Ofcom) تنفيذ القانون المذكور، مع صلاحية فرض غرامات أو ملاحقة الشركات غير الملتزمة.

طلبت هيئة "أوفكوم" هذا العام من منصات مثل فيسبوك وإنستغرام وسناب شات وتيك توك ويوتيوب تعزيز إجراءات حماية الأطفال، لكنها أشارت في مايو/أيار الماضي إلى أن الشركات تستمر في عدم تطبيق قواعد الحد الأدنى للعمر.

انتقادات

في المقابل، تواجه هذه السياسات انتقادات من بعض شركات التكنولوجيا ومنظمات المجتمع المدني، التي ترى أن إجراءات التحقق من الهوية تصل إلى حد المراقبة، كما أنها تزيد من مخاطر اختراق البيانات الشخصية، وفقا لنيويورك تايمز. حول مشروع القانون الكندي، يرى مايكل غايست الأستاذ بجامعة أوتاوا والمتخصص في تنظيم قطاع التكنولوجيا أن استبعاد فئة من المستخدمين من منصات التواصل، بدلا من وضع لوائح تنظيمية فعالة تجعل الإنترنت بيئة أفضل للجميع، يبدو بمثابة مسكّن مؤقت للأزمة. بينما يؤيد العديد من أولياء الأمور وكبار مسؤولي الشرطة في بريطانيا -كما يضيف التقرير- فرض حظر على منصات التواصل الاجتماعي للأطفال، يبدو أن هذا التأييد ليس محل إجماع بين الآباء.

يؤيد إيان راسل، الذي انتحرت ابنته "مولي" عام 2017 بعد تعرضها لمحتوى متعلق بإيذاء النفس، تعزيز حماية الأطفال على الإنترنت، لكنه يرى أن الحظر سيؤدي إلى إعفاء شركات التكنولوجيا من مسؤولياتها، عبر إضعاف الالتزام بتوفير بيئات آمنة كشرط أساسي للعمل في البلاد.

التجربة الأسترالية

لكن التجربة الأسترالية في حظر وسائل التواصل الاجتماعي، التي ينظر إليها كثيرون باعتبارها النموذج الأول عالميا، لم تسر كما كان مأمولا. بعد ستة أشهر من التطبيق، تشير معظم المؤشرات إلى أن القانون فشل إلى حد كبير في إبعاد المراهقين عن هذه المنصات، في بداية مخيبة لسياسة تتابعها عن كثب الحكومات والآباء حول العالم، وفق ما أوردته نيويورك تايمز. في مارس/آذار الماضي، أفادت مفوضية السلامة الإلكترونية في أستراليا -المسؤولة عن إنفاذ القانون- أن 7 من كل 10 آباء ممن لدى أبنائهم حسابات على مواقع التواصل، قالوا إن أبناءهم ما زالوا يستخدمون منصات خاضعة لقيود العمر.

ذكر مراهقون أنهم استخدموا طرقا سهلة لتجاوز القيود، مثل إنشاء حسابات جديدة بأعمار مزيفة، أو استخدام حساب أحد الوالدين أو الأشقاء الأكبر سنا، فيما أشار آخرون إلى أن حساباتهم استمرت بشكل طبيعي، بحسب التقرير. بينما يركز جزء كبير من الاهتمام الأكاديمي والتنظيمي على الفئة العمرية بين 13 و16 عاما، الذين كانوا يستخدمون المنصات بالفعل، يرى بعض الآباء أن المستفيد الحقيقي قد يكون الجيل الأصغر الذي لم يسجل بعد في هذه المنصات والذي سيدخل سنوات المراهقة في ظل تطبيق الحظر.

حول دور الأسر، كما يقول داني إيلاشي وهو أب من سيدني، للصحيفة إن هذا الحظر ليس سوى حلقة واحدة ضمن منظومة متكاملة لحماية الجيل القادم من الإدمان، مضيفا أنه لا يزال يتعين على الآباء أن يكونوا أصحاب الدور الرقابي الأكبر.

تعتزم الحكومة الأسترالية تعزيز تنفيذ الحظر مع تحميل شركات التكنولوجيا مسؤولية التطبيق وفرض غرامات باهظة عليها، لكن مؤشرات الخلل هذه لم تمنع دولا أخرى من الاحتذاء بها، فقد زار وزير السلامة على الإنترنت البريطاني كانيشكا نارايان أستراليا للاطلاع على آليات تنفيذ القانون. كما نقلت غارديان عن مسؤول حكومي كندي قوله إن السلطات ستسعى للاستفادة من التجربة الأسترالية في مشروع القانون الكندي الجديد.

المصدر: غارديان + نيويورك تايمز