حدّثت الشركة نظام التصفية ليصبح أكثر قدرة على اكتشاف محاولات التحايل

أعلنت منصة الألعاب الشهيرة «روبلكس» (Roblox) عن إطلاق ميزة جديدة تعتمد على الذكاء الاصطناعي لإعادة صياغة الرسائل النصية في الوقت الفعلي، بهدف الحد من استخدام اللغة غير اللائقة داخل المحادثات، وتعزيز بيئة أكثر أمانًا للمستخدمين، خاصة الأطفال.

من الحظر إلى إعادة الصياغة

تتجاوز الميزة الجديدة نظام التصفية التقليدي، الذي كان يستبدل الكلمات المحظورة بعلامات مثل «####»، وهي طريقة كانت غالبًا ما تعطل المحادثات وتجعلها غير مفهومة. وبدلًا من ذلك، سيعمل النظام الجديد على إعادة صياغة الرسائل بعبارات أكثر احترامًا، مع الحفاظ على المعنى الأساسي قدر الإمكان. فعلى سبيل المثال، سيتم تحويل العبارات غير اللائقة إلى صيغ مهذبة مثل “Hurry up!” بدلًا من إخفائها بالكامل. كما سيُخطر المستخدمون بأن الرسالة قد أُعيدت صياغتها، في خطوة تهدف إلى الحفاظ على شفافية التفاعل داخل المنصة.

تحسين تجربة المستخدم والأمان

أكدت الشركة أن هذه الميزة تسعى إلى تقليل التشويش في المحادثات والحفاظ على سلاسة التواصل بين اللاعبين، مع توجيه استخدام اللغة نحو معايير أكثر ملاءمة. وفي الوقت نفسه، شددت «روبلكس» على أن أنظمة الأمان الحالية لا تزال فعّالة، لا سيما في التعامل مع السلوكيات الخطرة أو المخالفات الجدية. هذه الميزة تسعى إلى تقليل التشويش في المحادثات

تطوير مستمر لأنظمة الحماية

أوضحت الشركة أنها حدّثت أيضًا نظام التصفية ليصبح أكثر قدرة على اكتشاف محاولات التحايل، بما في ذلك استخدام ما يُعرف بـ leet speak أو الكتابة البديلة لتجاوز الحظر. بحسب النتائج الأولية، ساهمت هذه التحسينات في تقليل حالات عدم اكتشاف المخالفات المرتبطة بمشاركة المعلومات الشخصية بمعدل يصل إلى 20 ضعفًا.

سياق قانوني وضغوط متزايدة

يأتي هذا التحديث في ظل ضغوط قانونية متزايدة على المنصة، بعد سلسلة من الدعاوى القضائية المتعلقة بسلامة الأطفال، والتي اتهمت «روبلكس» بتعريض المستخدمين الصغار لمخاطر، مثل الاستغلال والمحتوى غير المناسب. في هذا السياق، كانت الشركة قد أعلنت مؤخرًا فرض التحقق عبر التعرف على الوجه للوصول إلى ميزة الدردشة، في محاولة لتعزيز إجراءات الحماية.

نحو بيئة رقمية أكثر أمانًا

تعكس هذه الخطوة توجهًا متزايدًا لدى منصات الألعاب والتواصل نحو دمج الذكاء الاصطناعي في أنظمة الإشراف، ليس فقط لحجب المحتوى غير المناسب، بل لإعادة تشكيله بطريقة تحافظ على التواصل من دون الإضرار بالقيم المجتمعية. مع استمرار الجدل حول سلامة المستخدمين، خاصة الأطفال، يبدو أن «روبلكس» تسعى إلى تحقيق توازن بين حرية التفاعل وضمان بيئة رقمية آمنة.

جريدة الأخبار