رئيس مايكروسوفت يحذر من فخ نماذج الذكاء الاصطناعي المغلقة

رئيس مايكروسوفت يحذر من فخ نماذج الذكاء الاصطناعي المغلقة

في خضم الجدل المتصاعد حول المخاطر المحتملة للذكاء الاصطناعي، يبرز قلق يزداد حضورًا بين المتحمسين لهذه التقنية في وادي السيليكون، ويتمثل في أن مختبرات الذكاء الاصطناعي الكبرى التي تطور نماذج مغلقة المصدر قد تتحول إلى "حصان طروادة".

يخشى هؤلاء أن الشركات الناشئة والمؤسسات، كلما اعتمدت على نماذج شركات مثل "أوبن إيه آي" و"أنثروبيك"، منحت تلك الشركات وصولًا متزايدًا إلى أكثر بياناتها التجارية حساسيةً. وبذلك قد تتمكن الشركات المطورة للنماذج من استغلال هذه المعرفة لمصلحتها، وربما تتحول مستقبلًا إلى منافس مباشر لعملائها. ويشارك هذا القلق عدد من الشخصيات البارزة في قطاع التكنولوجيا، من بينها المستثمر جيسون كالاكانيس، والرئيس التنفيذي لشركة "بالانتير" أليكس كارب.

انضم الرئيس التنفيذي لشركة مايكروسوفت، ساتيا ناديلا، إلى هذا الطرح في منشور على مدونته الأحد، محذرًا من أن مستخدمي الذكاء الاصطناعي أو "المشترين" كما وصفهم، يدفعون الثمن مرتين؛ مرةً مقابل استخدام رموز المعالجة (Tokens)، ومرةً أخرى عندما يسلمون، من دون إدراك، بياناتهم ومعارفهم الخاصة.

كتب ناديلا: "أنت تدفع ثمن الذكاء مرتين، مرةً بالمال، ومرةً بشيء أكثر قيمةً، وهو المعرفة الخاصة التي تضطر إلى الكشف عنها حتى يصبح هذا الذكاء مفيدًا. وكلما أردت أداءً أفضل من النموذج، اضطررت إلى تزويده بقدر أكبر من هذه المعرفة". ورأى أن الخطر الأكبر يتمثل في أن المؤسسات تدرب هذه النماذج فعليًا على تفاصيل أعمالها الدقيقة. وأضاف في منشوره: "تتعلم النماذج من المخرجات الجانبية، ومن التعليمات التي يكتبها المستخدمون، والأدوات التي تستخدمها نماذج الوكلاء الذكية، ولا سيما من التصحيحات التي يجريها البشر عندما يخطئ النموذج. فكل تصحيح يتحول إلى معرفة مؤسسية متراكمة". واعتبر أن هذه المعرفة "من النوع الذي لا يستطيع أي منافس شراءه"، ومع ذلك فإن الشركات تقدمها طوعًا لمطوري النماذج.

أشار ناديلا إلى أنه إذا كان يُسمح لشركات الذكاء الاصطناعي بجمع بيانات الإنترنت بحرية لتدريب نماذجها، فمن العدل أن تتمكن المؤسسات أيضًا من دراسة هذه النماذج أو "تقطيرها" (Distillation). ويقصد بهذه العملية استخدام مخرجات النموذج لفهم آلية عمله وتدريب نموذج جديد، غالبًا ما يكون أقل تكلفةً، اعتمادًا على تلك المخرجات.

لفت إلى أن شركة أنثروبيك كانت قد اتهمت، في شباط/فبراير الماضي، نماذج صينية مفتوحة المصدر بإرسال ملايين الطلبات إلى نموذج "كلود" بهدف تحسين أدائها، كما دعت الحكومة الأميركية إلى تشديد ضوابط التصدير.

يرى ناديلا أن شركات النماذج لا يمكنها الجمع بين الأمرين؛ الاستفادة من بيانات العالم لتدريب نماذجها، ثم منع الآخرين من الاستفادة من نماذجها بالطريقة نفسها. وكتب في منشوره: "رغم أن الابتكار الكبير الناتج عن تمتع مزودي النماذج بحق الاستخدام العادل لتدريب نماذجهم على البيانات العامة أمر ضروري، فإنني أجد من المفارقات أن يفرض الوضع القائم لاحقًا قيودًا صارمةً على عملية التقطير".

كما أبدى قلقه من احتفاظ بعض مطوري النماذج "بحق التعلم من بيانات استخدام العملاء وتفاعلاتهم". واقترح ناديلا أن تحتفظ الشركات بملكية بياناتها بالكامل، بما في ذلك التعليمات (Prompts)، والملاحظات، وسائر البيانات الناتجة عن الاستخدام، داعيًا إلى إنشاء "بيئات تعلم خاصة" على السحابة، إضافةً إلى بناء ما وصفه بـ"طبقات التنسيق" (Orchestration Layers)، التي تتيح التنقل بسهولة بين نماذج الذكاء الاصطناعي المختلفة بدلًا من الارتباط بمزود واحد فقط. وأشار إلى أن أدوات مثل "بوابات الذكاء الاصطناعي" (AI Gateways)، التي تؤدي هذا الدور، أصبحت تحظى بشعبية متزايدة.

بالفعل، بدأت شركات كبرى، تمتلك بعض مراكز البيانات الخاصة بها إلى جانب اعتمادها على الحوسبة السحابية، بالتحول إلى نماذج مفتوحة المصدر تعمل داخل بنيتها التحتية المحلية (On-Prem).

قالت إيديت ليفين، المؤسسة والرئيسة التنفيذية لشركة "سولو.آي أو" (Solo.io)، لموقع "تك كرانش"، إنها تلاحظ هذا التحول بوضوح لدى عملائها، موضحةً أنهم، بعد تجربة النماذج المغلقة، باتوا يتساءلون: "لماذا لا نشغل نموذجًا مفتوح المصدر داخل بنيتنا الخاصة؟ فهو يقدم نحو 90% من قدرات النماذج الكبرى، لكنه أقل تكلفةً بكثير، كما يمنحنا سيطرةً كاملةً".

اختيرت تقنية "سولو.آي أو" العام الماضي لتكون الأساس التقني لمشروع "إيجنت غيتواي" (Agentgateway) التابع لمؤسسة "لينكس"، فيما تضم قائمة عملائها شركات مثل "تي-موبايل" (T-Mobile)، و"إيه دي بي" (ADP)، و"إس إيه بي" (SAP). وترى ليفين أن تشغيل النماذج مفتوحة المصدر داخل الشركات يمثل الموجة المقبلة في اعتماد الذكاء الاصطناعي المؤسسي.

لا تقتصر هذه القناعة عليها؛ إذ تشهد شركتا "فيرسل" (Vercel)، المتخصصة في استضافة المواقع وأدوات التنقل بين النماذج، و"أوبن راوتر" (OpenRouter)، زيادةً ملحوظةً في استخدام النماذج مفتوحة المصدر. ووفقًا للبيانات، مثلت هذه النماذج 29% من إجمالي حركة الطلبات التي مرت عبر بوابة "فيرسل" خلال الشهر الماضي.

مع صدور هذه الدعوة العلنية من الرئيس التنفيذي لمايكروسوفت، وهي شركة استثمرت في كل من "أوبن إيه آي" و"أنثروبيك"، إلى توخي الحذر عند الاعتماد على النماذج المغلقة، يبدو أن التوجه نحو النماذج مفتوحة المصدر مرشح للتوسع. واختتم ناديلا منشوره بالقول: "عندما تستهلك الذكاء، فإنك في الوقت نفسه تخلق ذكاءً جديدًا، وما تخلقه ينبغي أن يبقى ملكًا لك".

مواضيع مرتبطة

الرداءة تفضح روايات الذكاء الاصطناعي.. لماذا يتفوّق الإبداع البشري؟

ينتج روبوت الدردشة "كلود" تسلسلًا سرديًا سطحيًا للأحداث

هل يمتلك الذكاء الاصطناعي أفكارا مخفية؟

هذه التقنية تتيح للباحثين رؤية ما يحدث داخل النموذج وما المفاهيم التي يعالجها

قاموس الذكاء الاصطناعي.. الكلمات التي تشكّل مستقبل التكنولوجيا

تأتي مرحلة التعليم المعزز من التغذية الراجعة البشرية (RLHF)،