
الاستضافة الذاتية لـ Inkling 2 Small مقابل Tinker API: اختبار التعادل بين المعاملات المقيمة والنشطة
لا يُفعّل Inkling 2 Small سوى 17B معامل لكل رمز، لكن الاستضافة الذاتية تعني الاحتفاظ بالمعاملات الـ594B كلها في الذاكرة. يقدّم هذا الدليل منهجًا خطوة بخطوة للمقارنة بين الاستدلال المستضاف على Tinker وتشغيل الأوزان المفتوحة على وحدات معالجة الرسومات الخاصة بك، اعتمادًا على التكلفة لكل مهمة لا التكلفة لكل رمز.







