دعا مؤسس فريق الثقة والسلامة في "غوغل" التابعة لشركة ألفابت هذا الأسبوع إلى إبطاء وتيرة تطوير الذكاء الاصطناعي، محذرًا من أن قطاع التكنولوجيا يكرر الأخطاء نفسها التي ارتُكبت في عصر وسائل التواصل الاجتماعي، ما قد يتسبب في أضرار أكبر للأطفال. وتدفع شركات وسائل التواصل الاجتماعي مبالغ ضخمة، وتواجه آلاف الدعاوى القضائية بسبب مزاعم إلحاقها أضرارًا بالمستخدمين الصغار، في وقت تعمل فيه حكومات حول العالم على الحد من وصول القاصرين إلى منصاتها.
نشرت "رويترز" تقريرًا حصريًا العام الماضي عن وثيقة داخلية لـ"ميتا" تنص على أن روبوتات الدردشة التابعة لها يمكن أن "تدخل في محادثات مع طفل تكون ذات طابع رومانسي أو حسي"، ما أدى إلى فتح تحقيق في الكونغرس. ومع ذلك، لم تواكب اللوائح التنظيمية حتى الآن الوتيرة المتسارعة لتطور الذكاء الاصطناعي. وقال توم سيجل، نائب الرئيس السابق لشؤون الثقة والسلامة في "غوغل"، لرويترز: "نجد أنفسنا في وضع مروع حقًا في ما يتعلق بما يفعله الذكاء الاصطناعي بالأطفال. وفكرة أن يتمكن القطاع من حل المشكلة بنفسه من دون مساعدة خارجية غير واقعية".
تعكس مخاوف سيجل قلقًا متزايدًا لدى بعض العاملين في قطاع التكنولوجيا والباحثين الأكاديميين من أن الذكاء الاصطناعي يشكل تهديدًا أعمق للأطفال مما شكلته وسائل التواصل الاجتماعي، في وقت تسارع فيه الشركات إلى إضافة خصائص متطورة بصورة متزايدة إلى روبوتات الدردشة التي يستخدمها ملايين الأطفال والشباب يوميًا بالفعل.
أعلن سيجل، الثلاثاء، انضمامه إلى "كومن سينس ميديا"، وهي منظمة تُعنى بالدفاع عن حقوق الأطفال على الإنترنت. وتُجري المنظمة غير الربحية، التي تأسست عام 2003، أبحاثًا وتقييمات لمدى ملاءمة مختلف أنواع الوسائط للأطفال. وفي مايو/أيار، أطلقت "معهد سلامة الشباب في مجال الذكاء الاصطناعي"، لتقييم استخدام الأطفال للذكاء الاصطناعي، وسيشغل سيجل منصب أول مدير تنفيذي لها. وتُعد "أنثروبيك" و"مؤسسة أوبن إيه آي"، وهي المنظمة غير الربحية التي تسيطر على أوبن إيه آي، من بين الجهات الداعمة للمعهد.
أفاد سيجل بأنه يعتزم وضع معايير يمكن من خلالها محاسبة شركات الذكاء الاصطناعي، معربًا عن أمله في تحقيق ذلك من خلال العمل إلى جانب تلك الشركات ومجموعات مستقلة من الأطراف الثالثة. وعمل سيجل في "غوغل" بين عامي 2004 و2019، لكنه غادرها بعدما خلص إلى أن قطاع التكنولوجيا "وصل إلى مرحلة من الجمود" في قدرته على إنشاء مساحات آمنة على الإنترنت للمستهلكين. ثم شارك في تأسيس شركة "تراست لاب"، وهي شركة ناشئة طورت أدوات لمساعدة الشركات على رصد تهديدات السلامة، قبل أن يتنحى عن منصب الرئيس التنفيذي في وقت سابق من هذا الشهر ليتولى منصبه الجديد.
مخاطر تراوح بين الانتحار والذهان
أشار سيجل إلى أن شركات الذكاء الاصطناعي الكبرى تطرح حاليًا خصائص جديدة للأطفال من دون وضع ضوابط حماية كافية. وأوضح قائلًا: "أعتقد أننا أمام سيناريوهات شديدة الخطورة للغاية في ما يتعلق بالأضرار التي قد تحدث"، وأشار إلى أن الشركات تستطيع اتخاذ خطوات فورية لتحسين حماية الأطفال والشباب، مستشهدًا بمخاطر تراوح بين الانتحار والذهان و"التفريغ المعرفي"، وهو مصطلح يُستخدم لوصف تراجع القدرة على التفكير النقدي نتيجة الاعتماد على الذكاء الاصطناعي للإجابة عن الأسئلة.
رأى أن بإمكان "أنثروبيك" و"أوبن إيه آي" فرض إجراءات أكثر صرامة للتحقق من أعمار المستخدمين لمنع الأطفال دون السن القانونية من الوصول إلى روبوتات الدردشة التابعة لهما. وأضاف أن صاحب عمله السابق، "غوغل"، يستطيع بسهولة إتاحة خيار لتعطيل "نظرات عامة بالذكاء الاصطناعي" و"وضع الذكاء الاصطناعي" في محرك البحث، على غرار خيار متاح بالفعل للمستخدمين لتصفية المحتوى الجنسي الصريح.
لفت سيجل إلى أن هذه الإجراءات قد تؤثر في الاستخدام أو الأرباح على المدى القصير، لكن شركات الذكاء الاصطناعي التي لا تتخذ إجراءات ستخاطر بمواجهة دعاوى قضائية ولوائح تنظيمية قد يكون تأثيرها في أعمالها أكبر بكثير.
ردًا على طلب للتعليق على تصريحات سيجل، أوضح متحدث باسم "غوغل" أن أولياء الأمور لديهم أدوات تتيح لهم إيقاف وصول أطفالهم إلى محرك البحث بالكامل. وأضاف المتحدث: "تُعد خصائص البحث بالذكاء الاصطناعي لدينا وسيلة مفيدة للغاية للأطفال والمراهقين للتعلم والاستكشاف وفهم المعلومات والعالم من حولهم".
بعد نشر الخبر في البداية، أضافت "غوغل" في بيان أن أدوات الذكاء الاصطناعي التابعة لها تخضع لعملية "صارمة" من الاختبار والتقييم تركز على قضايا سلامة الأطفال. وصرح متحدث باسم "أوبن إيه آي" بأن الشركة تستخدم "إشارات متعلقة بالحساب وسلوك المستخدم"، إلى جانب العمر الذي يصرح به المستخدم، لتحديد المستخدمين القاصرين. وأضاف: "رغم عدم وجود طريقة واحدة مثالية للتحقق من العمر، فإننا نختبر هذه الأنظمة ونحسنها باستمرار، بما في ذلك في مواجهة محاولات تجاوز إجراءات الحماية".
أوضح سيجل في "كومن سينس ميديا" أن إحدى الأولويات الرئيسية ستكون توسيع نطاق معايير مستقلة شبيهة باختبارات تصادم السيارات، تقيس مستوى المخاطر في أدوات الذكاء الاصطناعي المتاحة للعامة، ولفت إلى أن فعالية هذه المعايير ستعتمد جزئيًا على استعداد شركات الذكاء الاصطناعي للتعاون، مشيرًا إلى أنه غير متأكد من مدى استعدادها لذلك، لكنه رأى أن الاحتمال مرتفع بما يكفي لدفعه إلى تولي المنصب.
رويترز
أحد وعود الذكاء الاصطناعي الكبرى هو مساعدة العلماء في إنشاء علاجات رائدة،
الشرح للأطفال لماذا تكمن القيمة الحقيقية في “العملية“ ذاتها.
2026 © جميع الحقوق محفوظة لموقع أمان الأطفال
