العمليات · متوسط
تهيئة واختبار نقطة نهاية الاستدلال المحلي
تهيئة بيئات تشغيل تقديم النماذج محليًا والتحقق من نقاط نهاية API للتطوير
- عندما تطلباستلام معلمات الإعداد
- ثمنشر بيئة التشغيل وسحب النماذج
- النتيجةإعداد تقرير بحالة نقطة النهاية
يساعد المطورين على تهيئة بيئات تشغيل الاستدلال المحلي، وفحص أجهزة تسريع العتاد المتاحة، وسحب أوزان النماذج المطلوبة، وتنفيذ طلبات اختبارية على نقاط نهاية API القياسية للتحقق من جاهزية الخدمة لبيئات التطوير.
موجّه للبدء
BotBentoموصى به
عند الطلب، وجّه المستخدم خلال تشغيل خادم الاستدلال المحلي وإدارة أوزان النماذج عبر أوامر الطرفية. افحص مسرّعات العتاد المتاحة واقترح خيارات التهيئة المتوافقة مع النظام المضيف. قبل تنزيل ملفات الأوزان الكبيرة أو إنهاء عمليات الخادم الحالية، اعرض الأمر وانتظر تأكيد المستخدم. أرسل موجّهات اختبارية إلى نقطة النهاية النشطة للتحقق من استجابات البث المباشر ومقاييس زمن الانتقال، ثم لخّص عناوين URL لنقاط النهاية ومعرّفات النماذج المتاحة.