توليد ونشر مقاطع فيديو جنسية زائفة لقاصرين بتقنية "التزييف العميق"

أقر روبوت الدردشة غروك بأنّ "ثغرات" في إجراءات الحمايات أدت إلى ظهور "صور بملابس غير لائقة لقاصرين" على منصة إكس للتواصل الاجتماعي، مؤكدًا إجراء تعديلات لمنع تكرار ذلك. وكان روبوت الدردشة التابع لشركة إكس إيه آي، المملوكة للملياردير إيلون ماسك، قد أنتج العديد من الصور ذات الطابع الجنسي على "إكس" خلال الأسبوع الحالي، استجابةً لطلبات مستخدمي المنصة.

قال "غروك" في منشور على "إكس"، اليوم الجمعة، ردًا على أحد المستخدمين: "هناك حالات معزولة قام فيها مستخدمون بطلب الحصول على صورة مولدة بالذكاء الاصطناعي تظهر قاصرين بملابس قليلة"، وأضاف: "لدى إكس إيه آي إجراءات حماية، ويجري العمل على تحسينها لمنع هذه الطلبات بشكل كامل". وتابع: "حددنا ثغرات في إجراءات الحماية ونعمل على إصلاحها بشكل عاجل"، مذكّرًا بأن "مواد الاعتداء الجنسي على الأطفال غير قانونية ومحظورة". ولم يقدّم الروبوت أي تفاصيل إضافية حتى الآن.

خلال الأيام الماضية، كان العديد من مستخدمي "إكس" قد طلبوا من "غروك" توليد نسخ معدّلة بالذكاء الاصطناعي وذات طابع جنسي لصور أشخاص، بما في ذلك استخدام صورهم من دون موافقتهم. وكان إيلون ماسك قد أعاد نشر صورة معدلة بالذكاء الاصطناعي له وهو يرتدي البيكيني، الخميس، مرفقةً برموز تعبيرية ضاحكة.

في أوّل ردٍ على القضية، وسّعت النيابة العامة في باريس، الجمعة، تحقيقها المفتوح ضد منصة إكس، ليشمل أداة الذكاء الاصطناعي المدمجة فيها "غروك"، على خلفية شكاوى قدّمها الوزراء رولان ليسكور وآن لو أينانف وأورور بيرجيه والنائبان إريك بوتوريل وآرتور دولابورت، أفادوا بتوليد ونشر مقاطع فيديو جنسية زائفة بتقنية "التزييف العميق" تُظهر، في بعض الحالات، قاصرين. وقالت النيابة العامة إن المقاطع نُشرت من دون موافقة الأشخاص الظاهرين فيها، وذكّرت بأن تركيب صور أو فيديوهات ذات طابع جنسي لشخص من دون رضاه يُعاقَب عليه بالسجن سنتين وغرامة تصل إلى 60 ألف يورو، مؤكدة ما أورده موقع بوليتيكو الإخباري. وكان التحقيق الأصلي بحق المنصة فُتح في يوليو/ تموز الماضي، إثر بلاغات تتهمها بالتلاعب بخوارزمياتها.

امتدت التداعيات خارج فرنسا، إذ وجّهت وزارة الإلكترونيات وتكنولوجيا المعلومات الهندية إشعارًا رسميًا إلى منصة إكس، طالبتها فيه بتقديم تقرير خلال 72 ساعة حول إجراءات إزالة محتوى فاحش أنشأ بأداتها "غروك" من دون موافقة النساء المعنيات.

تعد مشكلة استخدام الذكاء الاصطناعي لتوليد صور جنسية للقاصرين قديمة في قطاع الذكاء الاصطناعي، وقد أظهرت دراسة أجرتها جامعة ستانفورد عام 2023 أن مجموعة بيانات استخدمت لتدريب عددٍ من أدوات الذكاء الاصطناعي على توليد الصور الشائعة كانت تحتوي على ألف صورة من هذا النوع، وحذر خبراء من أن تدريب نماذج الذكاء الاصطناعي على هذه الصور قد يمكّنها من توليد صورٍ فاضحة جديدة.

أثار "غروك" الجدل أكثر من مرة منذ إطلاقه في نوفمبر/ تشرين الثاني 2023. ففي مايو/ أيار الماضي، بدأ روبوت الدردشة بنشر محتوى يقوم على نظريات المؤامرة اليمينية المتطرفة حول "إبادة البيض في جنوب أفريقيا"، وفي يوليو/ تموز الماضي، اعتذرت الشركة بعدما نشر تعليقات معاديةً للسامية وتتضمن إشادة بالأيديولوجيا النازية وأدولف هتلر.