أعلنت شركة "مايكروسوفت" عن أداة جديدة لاختبار سلوك أنظمة الذكاء الاصطناعي باستخدام أوامر مكتوبة بلغة طبيعية، في إطار نهج عمل جديد مفتوح المصدر يحمل اسم "أسيرت - ASSERT"، ويهدف إلى مساعدة المطورين والشركات على اختبار سلوك أنظمة الذكاء الاصطناعي والتأكد من التزامها بالقواعد والسياسات الخاصة بكل تطبيق أو خدمة.
ووفقا لما ذكرته "مايكروسوفت"، فإن الأداة الجديدة تعتمد على الذكاء الاصطناعي لتحويل الأوصاف المكتوبة بلغة طبيعية إلى مجموعة متكاملة من الاختبارات القابلة للقياس والتقييم، وذلك استجابة للحاجة المتزايدة لدى المؤسسات التي تعتمد على الذكاء الاصطناعي، إذ لم يعد تقييم أداء النماذج بصورة عامة كافيا، بل أصبح من الضروري التأكد من تصرفها وفقا للمتطلبات المحددة لكل منتج أو خدمة.
وأوضحت الشركة أنه بمجرد أن يحدد المطور الأهداف أو السياسات أو السلوكيات المتوقعة من النظام، تقوم الأداة بتحويل هذه المتطلبات إلى قائمة منظمة من السلوكيات المقبولة وغير المقبولة، ثم تنشئ مجموعة متنوعة من السيناريوهات والاختبارات للتحقق من مدى التزام النظام بهذه القواعد.
وبعد ذلك، تشغل الاختبارات على النظام المستهدف وتقدم نتائج تفصيلية تساعد المطورين على اكتشاف نقاط الضعف أو الانحرافات السلوكية.
ومن أبرز مزايا الأداة قدرتها على تسجيل المسارات التي يتبعها نظام الذكاء الاصطناعي أثناء تنفيذ المهام، بما في ذلك الخطوات الوسيطة واستخدام الأدوات المختلفة، ما يتيح للمطورين فهما أعمق لأسباب الإخفاقات والأخطاء.
