تقييم وكلاء الذكاء الاصطناعي: اختبارات القبول قبل الإطلاق

يجب أن يثبت تقييم وكلاء الذكاء الاصطناعي ما إذا كان المساعد ينجز مهمة عمل متفقا عليها، لا مجرد أن رسالته النهائية تبدو مقنعة. إذا قال الوكيل إنه حدّث سجل عميل، فيجب أن تتوافر أدلة القبول في نظام الوجهة إلى جانب المحادثة.

قيّم وكيل الذكاء الاصطناعي باستخدام مهام ممثلة للواقع وقواعد قبول صريحة ونتائج تُفحص بصورة مستقلة. أدرج الرفض وعدم اليقين والانقطاعات والإحالة إلى البشر إلى جانب الحالات الناجحة. اربط قرار الإطلاق بسير العمل والإصدار اللذين خضعا للاختبار، بدلا من درجة إجمالية واحدة.

تأمل مساعدا يعدّ تغيير عنوان تسليم. قد يعرض تقديم توضيحي مفيد العنوان الصحيح في نافذة الدردشة. أما التقييم المفيد فيحدد الطلب الذي تغير، ومن أجاز التغيير، وما إذا كان التسليم قد أُقفل بالفعل، وما حدث عندما كانت استجابة نظام الوجهة غير مؤكدة. هذه أسئلة مختلفة.

الأمثلة التالية تصاميم مقترحة للتقييم، وليست نتائج عملاء أو معيارا منشورا للمقارنة. وهي تساعد مسؤول العمل على طلب أدلة قبل السماح للوكيل بتنفيذ مزيد من المهام.

حدد النتيجة المطلوبة من تقييم وكلاء الذكاء الاصطناعي

ابدأ بمهمة يستطيع زميل في العمليات التعرف عليها. صف الحالة الابتدائية والإجراءات المسموح بها والحالة النهائية المقبولة. في مثال تغيير العنوان، قد يتطلب القبول طلبا مؤهلا وعنوانا مقترحا تم التحقق منه وموافقة وسجلا مطابقا في نظام الطلبات.

يميّز شرح Anthropic لتقييم الوكلاء بين مسار المحادثة والحالة النهائية للبيئة. هذا التمييز مفيد حتى إذا استخدم تنفيذك مزودا آخر. الوصف السلس للنجاح دليل يتعلق بالاستجابة، وليس إثباتا مستقلا لنتيجة العمل.

لا تشترط أن تتبع كل عملية تشغيل صحيحة صياغة متطابقة أو تسلسلا واحدا للأدوات. فقد تنتج مسارات مختلفة نتيجة مقبولة. ميّز بدلا من ذلك بين القيود التي يجب الالتزام بها وتفاصيل التنفيذ التي يمكن أن تتغير. يجب أن يفشل الاختبار عند حدوث تغيير محظور في سجل، حتى إذا كانت الإجابة النهائية ودودة.

عيّن مسؤولا للحالات المتنازع عليها. إذا اختلفت المبيعات والمالية والعمليات حول النتيجة الصحيحة، فلا يستطيع مقيّم آلي حسم سياسة العمل نيابة عنها. سجّل هذا الخلاف بوصفه متطلبا لم يُحسم قبل استخدام الحالة شرطا للإطلاق.

أنشئ مجموعة حالات ممثلة للواقع

اجمع أمثلة من سير العمل الفعلي، ثم احذف المعلومات الشخصية غير الضرورية. أدرج الطلبات المعتادة والقيم الصعبة المشروعة والحالات التي ينبغي فيها للنظام طلب توضيح. تجنب مجموعة اختبارات تتكون بالكامل من أمثلة مرتبة كتبها المطور الذي بنى الوكيل.

تعامل مع هذه المصفوفة كنقطة بداية، لا كادعاء بالتغطية الشاملة. فمساعد الرواتب وأداة البحث الداخلي ووكيل دعم العملاء يحتاجون أدلة مختلفة. المهم أن تكون لكل حالة دلالة عمل متوقعة قبل أن ينفذها أي شخص.

افصل حالات الاستكشاف عن حالات القبول

قد تكشف حالة استكشافية إخفاقا جديدا دون وجود قاعدة مستقرة لتقييمها. هذا تعلم قيّم، لكنه لا ينبغي أن يغير بصمت تعريف نجاح سبق الاتفاق عليه. احتفظ بمجموعة قبول مستقرة وقائمة انتظار منفصلة للحالات التي تتطلب تحقيقا أو قرارات تتعلق بالسياسة.

احتفظ بالحالات التي كشفت عيوبا حقيقية. بعد إصلاح العيب، تصبح الحالة اختبارا لمنع تكراره. أضف أمثلة جديدة عندما يتسع نطاق التشغيل بدلا من إعادة كتابة المجموعة القديمة مرارا لتوافق أحدث مخرجات.

اختر كيفية التحقق من كل نتيجة

استخدم فحوصا حتمية للحقائق التي تكون حتمية فعلا. يمكن غالبا التحقق مباشرة من معرّف الوجهة أو حقل محمي لم يتغير أو عدم حدوث كتابة غير مصرح بها. قد يساعد نموذج مقيّم في تقدير جودة التفسير، لكنه لا ينبغي أن يكون الجهة الوحيدة التي تحكم فيما إذا انتقلت الأموال أو تغير سجل.

وثّق سبب وجود كل فحص. فمطابقة نصية تكافئ اعتذارا بعينه قد ترفض إجابة مفيدة تماما. والمخطط الذي يقبل أسماء الحقول المتوقعة قد يقبل مع ذلك العميل الخطأ. يشرح دليل الكائنات في JSON Schema التحقق البنيوي؛ أما صحة العملية التجارية فتحتاج تحققات إضافية.

في الإجابات التي تتطلب حكما تقديريا، اطلب من المراجعين وصف العيب بدلا من اختيار درجة فقط. هل كانت الاستجابة بلا سند، أم مربكة، أم ناقصة، أم خارج صلاحية المستخدم؟ تجعل التصنيفات المميزة تبرير التعديل الهندسي التالي أسهل، وتكرار المراجعة التالية أبسط.

اضبط بيئة الاختبار والإصدارات

تحتاج الحالة القابلة للتكرار إلى أكثر من توجيه محفوظ. سجّل تنفيذ الوكيل والتعليمات ذات الصلة وتعريفات الأدوات وإعدادات النموذج والبيانات الابتدائية. إذا تغير سجل في نظام سابق بين مرات التشغيل، فقد تختلف النتيجة لسبب مشروع لا علاقة له بتغيير الوكيل.

استخدم وجهة مضبوطة للعمليات التي تُحدث آثارا في العمل. أعد ضبط الحالة الابتدائية أو إنشاءها عمدا. التشغيل الثاني على سجل عدله التشغيل الأول هو اختبار مختلف، حتى لو كانت صياغة الطلب باللغة الطبيعية متطابقة.

افحص أكثر من محاولة

قد يتغير سلوك الوكيل بين المحاولات. قرر مسبقا كيفية مساهمة التجارب المتكررة في القبول واحتفظ بكل النتائج. الإبلاغ عن أفضل تشغيل فقط يمنع المسؤول من فهم عدم الاتساق. وبالمثل، لا تدّع اليقين استنادا إلى مجموعة صغيرة من الأمثلة الناجحة.

اتفق على ميزانية عملية للتقييم. يمكن تشغيل بعض الحالات كلما تغير عقد أداة؛ بينما تحتاج حالات أخرى مراجعا متخصصا أو بيئة تكامل مكلفة. تستطيع مجموعة اختبارات متعددة المستويات تقديم فحوص متكررة ومحددة، مع الإبقاء على تقييم أوسع للإطلاق عندما يتغير نطاق التشغيل.

اجعل الإخفاق والإحالة نتائج مفيدة

يمكن أن يكون الرفض هو النتيجة الصحيحة. قد يكون الوكيل الذي يتوقف عندما يكون الطلب غامضا أكثر فائدة من وكيل يُنجز التغيير الخطأ. حدد ما يُقبل من توضيح وتصعيد ومتابعة يدوية، كي لا يكافئ المقيّم الإنجاز بأي ثمن.

افحص سجلات الإحالة بالدقة نفسها التي تفحص بها العمليات المنجزة. ينبغي أن تحدد الطلب الأصلي ومرجع الوجهة المعني والسؤال غير المحسوم وقائمة الانتظار المسؤولة. قد يترك توجيه عام للتواصل مع الدعم الزميل مضطرا إلى إعادة التحقيق من البداية.

افصل التقييم عن التقييم الأمني الأوسع. يوفر OWASP ASVS أساسا للتحقق من متطلبات أمن التطبيقات. يتناول دليلنا لأمن وكلاء الذكاء الاصطناعي الأذونات والمدخلات العدائية. ينبغي أن يتضمن تقييم سير العمل هذه الحدود، لكن النتيجة الجيدة في إنجاز المهام ليست ضمانا أمنيا شاملا.

قرر ما الذي يوقف الإطلاق

اكتب شروط الإيقاف قبل العرض التوضيحي. قد يبرر إفشاء معلومات بين العملاء أو كتابة غير مصرح بها الإيقاف بصرف النظر عن متوسط إنجاز المهام. أما تفسير مربك يمكن تداركه فقد يستدعي نطاقا أضيق أو تجربة مراقبة. تأتي درجة الخطورة من أثر العملية على العمل.

أبلغ عن النتائج بحسب فئات الحالات إلى جانب النتيجة الإجمالية. قد يخفي مجموع قوي ضعفا في سلوك التعافي عندما تكون أغلب الأمثلة استعلامات معتادة. اذكر عدد الحالات المختبرة وطبيعتها والإخفاقات غير المحسومة وخلافات المراجعين والاستثناءات المعروفة إلى جانب أي درجة تلخيصية.

ينبغي أن ينطبق القبول على نطاق وإصدار محددين. اجتياز أسئلة الطلبات للقراءة فقط لا يثبت الاستعداد لتعديل الطلبات. إضافة وجهة جديدة أو مجموعة مستخدمين أو أداة كتابة تغير حدود التشغيل، ويجب أن تؤدي إلى مراجعة مقصودة لمجموعة الحالات.

احتفظ بسجل إطلاق يستطيع عضو آخر في الفريق فهمه. ينبغي أن يوضح ما اختُبر وما أخفق وما تغير ولماذا قبل المسؤول القيود المتبقية. لوحة متابعة خضراء دون تفسير تمثل تسليما ضعيفا عندما لا يتوافر المقيّم الأصلي.

ضع ميزانية للأدلة والصيانة المستمرة

اطلب عرضا محدد النطاق بعملة GBP لتصميم الاختبارات والبيئات المضبوطة والتنفيذ والمراجعة والتقارير. افصل العمل الأولي عن تشغيل التقييم المتكرر وصيانة الحالات بعد تغير قواعد العمل. لا يوجد سعر موحد يمكن تبريره لكل تقييم دون معرفة سير العمل.

غالبا ما يكون الاستثمار الأول المفيد مجموعة اختبارات ضيقة تكشف فئة مكلفة من الأخطاء. تنبع قيمتها من القرار الذي تدعمه، لا من عدد التوجيهات في جدول بيانات. تجنب شراء معيار اصطناعي واسع لا يستطيع أحد ربطه بالعمليات اليومية.

اطلب تجربة تقييم محددة الحدود

قدّم وصفا للمهمة وأمثلة ممثلة حُجبت تفاصيلها الحساسة وحالة الوجهة التي تثبت الإنجاز. حدد العمليات التي يجب ألا ينفذها الوكيل أبدا والزملاء الذين سيحكمون على الحالات الغامضة. تكون أمثلة الحوادث الحالية مفيدة عندما يمكن التعامل مع تفاصيلها الحساسة بصورة مناسبة.

يمكن أن تبدأ تجربتنا محددة النطاق لتكامل الذكاء الاصطناعي بهذه المهمة وأدلة قبولها. يستطيع النطاق الأولي إثبات ما إذا كان الوكيل وأدواته ونظام الوجهة يعملون معا بصورة موثوقة قبل توسيع الوصول.

أرسل لنا سير العمل وقرار الإطلاق الذي تحتاج إلى اتخاذه . اطلب مجموعة تقييم قابلة للتكرار وشرحا لنقاط قصورها وتسليما واضحا. ينبغي أن يساعدك المخرج على تحديد ما يمكنك الوثوق بالوكيل لتنفيذه بأمان لاحقا.

الأسئلة الشائعة

ما تقييم وكلاء الذكاء الاصطناعي؟ يتحقق تقييم وكلاء الذكاء الاصطناعي من الوكيل وفق مهام محددة وقواعد قبول. ويفحص حالة النظام الناتجة والعمليات المسموح بها وجودة أي تفسير أو إحالة، بدلا من اعتبار رسالة نهائية مقنعة دليلا على الإنجاز.

هل تكفي درجة معيار مقارنة لاعتماد وكيل للعمل؟ لا. يمكن لمعيار عام أن يفيد المقارنة التقنية، لكن قبول الإطلاق يحتاج حالات تعكس سجلاتك وأذوناتك وأنماط الإخفاق وقواعد العمل. أبلغ عن النطاق المختبر والقيود غير المحسومة.

كم حالة اختبار نحتاج؟ لا يوجد عدد موحد. ابدأ بالنتائج المختلفة ومسارات الإخفاق المهمة في سير العمل المقترح. أضف حالات عندما تخلق أدوات جديدة أو مجموعات مستخدمين أو استثناءات للسياسة سلوكا مختلفا بصورة ذات معنى. مجموعة كبيرة من التوجيهات شبه المتطابقة لا تعادل تغطية تشغيلية واسعة.

هل يمكن لنموذج آخر تقييم الإجابات؟ نعم، في الأجزاء المناسبة من المراجعة. عايره باستخدام أمثلة فحصها أشخاص ذوو معرفة، واحتفظ بتحققات حتمية في الوجهة للحقائق مثل السجل الذي تغير. يجب ألا يحل حكم النموذج محل أدلة العملية التجارية.

هل ينبغي احتساب الرفض الصحيح نجاحا؟ نعم، عندما يكون الرفض النتيجة المتوقعة. حدد ما يقوله الرفض المفيد وتأكد من عدم وقوع أي عملية أو إفشاء محظور.

هل نحتاج بيانات عملاء من الإنتاج؟ ينبغي عادة أن تبدأ بأمثلة مضبوطة تحافظ على البنية ذات الصلة والحالات الصعبة دون معلومات شخصية غير ضرورية. يحتاج أي استخدام للبيانات الفعلية إلى غرض صريح ووصول مناسب وسياسة للتعامل معها. السلوك الممثل للواقع أهم من نسخ قاعدة بيانات الإنتاج كاملة إلى المقيّم.

ما الذي يجب أن يسلمه مورد التقييم؟ مجموعة الحالات والنتائج المتوقعة وتعليمات الحالة الابتدائية وقواعد التقييم وسجلات الإصدارات وأدلة الإخفاق. أدرج الأوامر أو العملية اللازمة لتكرار التقييم، ومسؤولا عن تحديثه.

متى ينبغي تشغيل مجموعة الاختبارات مرة أخرى؟ كرر الفحوص ذات الصلة بعد تغير النماذج أو التعليمات أو الأدوات أو الأذونات أو سلوك الوجهة. راجع التغطية عندما تتوسع مهمة العمل. تنتمي نتيجة القبول السابقة إلى النطاق الذي اختُبر سابقا.