تقوم هذه المنصة بتقويم موثوقية استنتاجات الذكاء الصناعي فورا.

طوّر علماء، من معهد ماساتشوستس للتكنولوجيا (MIT)، برنامجا يعمل كـ"كاشف كذب" يُجبر أنظمة الذكاء الصناعي على الإبلاغ بصدق عن شكوكها أو عدم تأكدها. وهي تهدف إلى تدريب هذه على تحديد حدود معارفها، مع إلغاء تلقائي للقرارات غير الموثوق بها.

طورت شركة Themis AI منصة تُدعى "كابسا" (Capsa) قادرة على التعامل مع مختلف نماذج تعلم الآلة، بما في ذلك النماذج اللغوية الكبيرة (LLMs) مثل ChatGPT. وتقوم هذه المنصة بتقويم موثوقية استنتاجات الذكاء الصناعي فورا، ما يساعد هذه الأنظمة في تجنب الأخطاء في مجالات حساسة مثل الصيدلة والاتصالات والقيادة الذاتية للسيارات.

كما تقوم المنصة بتحليل البيانات التي يعالجها الذكاء الصناعي لكشف أي مؤشرات تدل على الشك أو التحيز أو نقص في البيانات. على سبيل المثال، إذا قدم النموذج تنبؤا يعتمد على بيانات غير كافية، تصنفه "كابسا" على أنه تنبؤ غير موثوق وتقترح إجراء التعديلات اللازمة.

في القطاع الدوائي على وجه الخصوص، تتحقق المنصة من مدى استناد التنبؤات إلى بيانات فعلية، مميزة إياها عن التخمينات غير المدعومة. وتتميز المنصة بسرعة معالجة فائقة لا تتجاوز أجزاء الثانية، فيجعلها مناسبة حتى للتشغيل على الأجهزة الطرفية مثل معالجات الهواتف الذكية.

تُستخدم المنصة حاليا في شركات الاتصالات لأتمتة الشبكات وشركات النفط والغاز لتحليل الصور الزلزالية والشركات الصيدلة للتنبؤ بخصائص الأدوية. ويمكن أن تزيد تلك التقنية من أمان الذكاء الصناعي وتعزز شفافيته والثقة بتكنولوجيات المستقبل.

المصدر: Naukatv.ru