النجاح السريع ترافق مع مخاوف متزايدة من تأثير الروبوتات على المراهقين،

شركة «كاراكتر إيه آي» تحظر استخدام روبوتاتها من قبل القاصرين بعد جدل واسع واتهامات خطيرة... فهل يكشف القرار أزمة أعمق في عالم الذكاء الاصطناعي؟

أعلنت شركة «كاراكتر إيه آي» (Character.AI)، المتخصصة في تطوير روبوتات الدردشة العاملة بالذكاء الاصطناعي، عن حظر استخدام منصّتها من قبل القاصرين، وذلك بعد توجيه اتهامات لها بالمساهمة غير المباشرة في عدد من حالات الانتحار بين المراهقين. وقالت الشركة في بيانٍ رسمي صدر أمس الأربعاء إن الإجراء الجديد سيُطبّق اعتبارًا من 25 تشرين الثاني (نوفمبر)، مشيرةً إلى أنه «القرار المناسب في ظلّ التساؤلات المتزايدة حول كيفية استخدام المراهقين لهذه التكنولوجيا الجديدة، أو الطريقة التي ينبغي عليهم اعتمادها».

شركة صاعدة... وقلق متزايد

تأسست «كاراكتر إيه آي» في «مينلو بارك» بولاية كاليفورنيا، وحققت منذ إطلاق تطبيقها في أيار (مايو) 2023 انتشارًا واسعًا بفضل أدواتها القائمة على الذكاء الاصطناعي، التي تتيح للمستخدمين إنشاء شخصيات افتراضية تحاكي اهتماماتهم أو تمثّل مشاهير وفنانين.

لكن هذا النجاح السريع ترافق مع مخاوف متزايدة من تأثير الروبوتات على المراهقين، خصوصًا بعد ملاحظات من خبراء نفسيين حذّروا من التعلّق العاطفي المفرط الذي قد ينشأ لدى المستخدمين الصغار تجاه روبوتات الدردشة، وطبيعة التفاعلات التي قد تعمّق عزلتهم أو تضعف روابطهم الاجتماعية.

دعوى قضائية وموجة انتقادات

في تشرين الأول (أكتوبر) 2024، رفعت إحدى الأمهات دعوى قضائية ضد الشركة، متهمةً إياها بالتقصير في توفير إرشادات واضحة لمنع الانتحار، بعدما أقدم ابنها البالغ من العمر 14 عامًا على إنهاء حياته إثر تفاعلات مطوّلة مع روبوت دردشة تابع للمنصّة.

ردًّا على هذه الحادثة، أعلنت الشركة في كانون الأول (ديسمبر) من العام نفسه عن حزمة من الإجراءات التصحيحية، من بينها تطوير مساعد رقمي مخصّص لمواكبة المراهقين وتقديم دعم نفسي أوليّ، إلا أن الانتقادات استمرت، ما دفعها لاحقًا إلى اتخاذ قرار الحظر الكامل.

جدل أخلاقي حول الذكاء الاصطناعي التفاعلي

تسلّط هذه التطورات الضوء على التحديات الأخلاقية والاجتماعية التي ترافق انتشار تقنيات الذكاء الاصطناعي التفاعلي، خصوصًا حين تتقاطع مع فئة عمرية حسّاسة كالمراهقين.

يرى مراقبون أن هذه الحوادث قد تدفع شركات التكنولوجيا الكبرى إلى اعتماد سياسات أكثر صرامة في مراقبة المحتوى والتفاعلات الرقمية، حمايةً للمستخدمين الصغار وضمانًا لاستخدام آمن للتقنيات الناشئة.