VRAM
الذاكرة المحلية للمسرّع. تشمل سعة عبء العمل أكثر من أوزان النموذج: فقد تستهلكها أيضًا التنشيطات والمخازن المؤقتة والحالة المخزنة مؤقتًا ومخصصات الأطر البرمجية.
ذاكرة KV المؤقتة
موترات المفاتيح والقيم التي يحتفظ بها التقديم التوليدي التلقائي للتسلسلات الحية. تؤثر بنية النموذج ودقة الذاكرة المؤقتة وعدد الرموز والتزامن على السعة المطلوبة.
التكميم
تمثيل بعض قيم النموذج بدقة عددية مخفضة. يشمل استخدام الذاكرة الفعلي بيانات التنسيق ومساحات عمل وقت التشغيل؛ يجب فحص النوى المدعومة وجودة المخرجات.
توازي الموترات
توزيع أجزاء من عمليات موتر النموذج عبر المسرعات. يمكنه توزيع نموذج عبر البطاقات ولكنه يقدم اتصالاً ويتطلب استراتيجية تقديم أو تدريب مدعومة صراحةً.
DistributedDataParallel (DDP)
نهج تدريب في PyTorch يشغّل نسخًا من النموذج عبر العمليات ويزامن التدرجات. لا يجمع النسخ المتماثل ذاكرات الأجهزة في تجمع واحد متصل.
التوازي الكامل للبيانات المجزأة (FSDP)
تدريب موزّع يقسم معلمات النموذج والتدرجات وحالة المُحسِّن. تأتي وفورات الذاكرة مع متطلبات الاتصال والتنسيق ونقاط التحقق.
CUDA
منصة الحوسبة المتوازية ونموذج البرمجة من NVIDIA. لا يزال عبء العمل المعتمد على CUDA يتطلب عتادًا وبرنامج تشغيل وبيئة تشغيل ومكتبات متوافقة.
ROCm
حزمة برمجيات AMD لحوسبة GPU. يجب التحقق من الدعم لوحدة معالجة الرسومات ونظام التشغيل وبنية الإطار واعتماديات عبء العمل المحددة.
نقطة حفظ التدريب
حالة محفوظة تُستخدم لاستئناف التدريب أو إعادة إنتاجه. اعتمادًا على التشغيل، يشمل ذلك النموذج والمُحسِّن والجدول الزمني والحالة العشوائية والتقدم عبر البيانات. تحقق من الاستعادة، وليس الكتابة فقط.
المشفر التلقائي التغايري (VAE)
في خط أنابيب الانتشار، مكوّن يعيّن بين التمثيلات الكامنة والمخرجات القابلة للعرض. قد يكون لفك الترميز ذروة ذاكرة منفصلة عن إزالة الضوضاء؛ ويتطلب التقسيم أو التبليط المدعوم فحوصات جودة.
مدة إيجار ثابتة
في هذا الكتالوج، الأسبوع هو 7 أيام بالضبط والشهر 30 يومًا بالضبط. إيقاف تخصيص مُنمذج لا يوقف الفترة المدفوعة. أسعار وحدات معالجة الرسومات والخيارات المحددة تشكل عرض السعر الكامل.
مفتاح العِدالة
معرّف يتيح لعملية مدعومة التعرف على طلب متكرر، بحيث لا يُطبق الإجراء نفسه مرتين. أعد استخدامه لإعادة محاولة العملية نفسها، وليس لعملية شراء أو تكوين مختلف.
تشرح التعريفات المفهوم؛ ولا تضمن أن عبء عمل معينًا أو إصدار مكتبة معينًا أو طوبولوجيا معينة مدعومة من تخصيص AnchorGPU.