انتقل إلى المحتوى

Black Friday: خصم يصل إلى ⁨61‎%‎⁩ على باقاتنا حتى 30 نوفمبر.

اطّلع على الباقات

الاستضافة الذاتية لـ Inkling 2 Small مقابل Tinker API: اختبار التعادل بين المعاملات المقيمة والنشطة

لا يُفعّل Inkling 2 Small سوى 17B معامل لكل رمز، لكن الاستضافة الذاتية تعني الاحتفاظ بالمعاملات الـ594B كلها في الذاكرة. يقدّم هذا الدليل منهجًا خطوة بخطوة للمقارنة بين الاستدلال المستضاف على Tinker وتشغيل الأوزان المفتوحة على وحدات معالجة الرسومات الخاصة بك، اعتمادًا على التكلفة لكل مهمة لا التكلفة لكل رمز.

من السهل أن يُخطأ في تسعير Inkling 2 Small، وقد يقع الخطأ في أي من الاتجاهين. فعدد المعاملات النشطة البالغ 17B يجعل تشغيله يبدو رخيصًا، وهو كذلك في الغالب عند الحساب لكل رمز. غير أن الاستضافة الذاتية تعني الاحتفاظ بجميع المعاملات البالغة 594B في ذاكرة وحدات معالجة الرسومات. وإذا أضفنا إلى ذلك أن النموذج مُسهب للغاية، فإن السعر المنخفض لكل رمز قد يتحول مع ذلك إلى تكلفة كبيرة لكل مهمة.

يعرض هذا الدليل اختبار التعادل بين المعاملات المقيمة والنشطة، وهو منهج من سبع خطوات لتحديد متى يتفوق تشغيل الأوزان المفتوحة بنفسك على الاستدلال المستضاف على Tinker. ويشير الاسم إلى جوهر التوتر بين الخيارين: فمن يستضيف النموذج ذاتيًا يدفع مقابل كل معامل مقيم في الذاكرة، أما التسعير المستضاف فيتبع المعاملات النشطة.

لا نذكر هنا أسعار Tinker المعلنة لكل رمز. استخرجها من صفحة أسعار Tinker عند بناء نموذجك الحسابي، لأنها تحدد أحد طرفي المقارنة وقد تتغير.

ما الذي تدفع مقابله: 594B معامل في الذاكرة، و17B منها قيد العمل

Inkling 2 Small نموذج من نوع خليط الخبراء (Mixture-of-Experts) يضم 594B معامل إجمالًا، منها 17B نشطة لكل رمز، ويدعم المدخلات المصوّرة ومستويات جهد متغيرة. وتصف بطاقة النموذج محوّلًا (transformer) من نوع فك الترميز فقط مؤلفًا من 48 طبقة، يُوجَّه فيه كل رمز إلى 8 من أصل 384 خبيرًا. يُبقي هذا التصميم الحوسبة لكل رمز صغيرة، لكنه لا يفيد الذاكرة في شيء، إذ يتحدد حجمها بالمجموعة الكاملة من الأوزان، كما تُظهر أرقام العتاد أدناه.

هذا التفاوت هو مسألة البناء مقابل الشراء في صورة مصغّرة. تقول وثائق Tinker إنها تسعّر نماذج MoE وفق المعاملات النشطة، وتؤكد Thinking Machines أن ذلك يجعلها أرخص بكثير من النماذج الكثيفة ذات الجودة المماثلة. أما من يستضيف ذاتيًا فلا يحصل على خصم مماثل في الذاكرة. إذ يحدد حجم العنقود لاستيعاب المعاملات الـ594B كلها، ويدفع ثمنه سواء وصل طلب واحد أو ألف طلب.

تحدد بطاقة النموذج الحد الأدنى من العتاد: تتطلب نقطة الحفظ الرئيسية بصيغة NVFP4 عنقودًا من وحدات معالجة الرسومات بذاكرة VRAM مجمّعة لا تقل عن 500GB، مثل 2x NVIDIA B300 أو 4x NVIDIA H200. ووفقًا لدليل SGLang، يبلغ حجم نقطة الحفظ الرئيسية نحو 394 GB، مع تخزين الخبراء الموجَّهين في الطبقات من 0 إلى 39 بصيغة NVFP4 وفي الطبقات من 40 إلى 47 بصيغة MXFP8. أما نقطة الحفظ المعتمدة كليًا على MXFP8 فيبلغ حجمها نحو 623 GB. وتقول Thinking Machines إن نسخة MXFP8 لا تتفوق إلا بمقدار 1 إلى 2 نقطة مئوية في التقييمات، ولا ترى أن الفرق ذو أهمية في حالات الاستخدام العملية.

نقطة الحفظتخزين الخبراءالحجم التقريبيملاحظة عملية
Inkling-2-Small (الرئيسية)NVFP4 للطبقات من 0 إلى 39، وMXFP8 للطبقات من 40 إلى 47نحو 394 GBتحتاج إلى 500GB على الأقل من VRAM المجمّعة؛ الخيار الافتراضي المعقول
Inkling-2-Small-MXFP8MXFP8 لجميع الخبراء الموجَّهيننحو 623 GBأفضل بمقدار 1 إلى 2 نقطة في التقييمات، مقابل تكلفة ذاكرة أعلى بكثير

نصيحتنا أن تبدأ تخطيط التكاليف بصيغة NVFP4، وألا تنتقل إلى MXFP8 إلا إذا أظهرت تقييماتك الخاصة أن هذا المكسب الصغير مهم لمهمتك.

لماذا المهمة، لا الرمز، هي الوحدة الصحيحة للتكلفة

المقارنات لكل رمز مضلِّلة مع هذا النموذج لأنه يكتب الكثير. فقد قاست Artificial Analysis نحو 150K رمز مخرجات لكل مهمة من مهام مؤشر Intelligence Index لنموذج Inkling 2 Small، وقدّرت تكلفته المستضافة بـ $1.18 لكل مهمة. ويضع الجدول هذه الأرقام في مقابل ثلاثة نماذج أخرى من المصدر نفسه.

النموذجرموز المخرجات لكل مهمة في المؤشرالتكلفة المستضافة لكل مهمة في المؤشر
Inkling 2 Smallنحو 150K$1.18
Inkling Smallنحو 37K$0.20
Claude Sonnet 5.5 (متوسط)نحو 31K$10.02
Gemini 3.8 Flash (مرتفع)نحو 99K$7.77

يُعد Inkling 2 Small الأكثر إنتاجًا للمخرجات في هذه المجموعة، ومع ذلك تقل تكلفته لكل مهمة كثيرًا عن كلا النموذجين المملوكين. ويشير موقع The Decoder إلى أن ذلك يضعه أقرب إلى النطاق السعري للنماذج الصينية منخفضة التكلفة منه إلى المنافسين الغربيين المملوكين.

نقترح التعامل مع رقم Artificial Analysis بوصفه مرجعًا للمؤشر، لا بوصفه فاتورتك على Tinker. فلم نتحقق من أسعار أي مزوّد اعتمدتها Artificial Analysis، لذا استبدل به تكلفتك الخاصة لكل مهمة المحسوبة على أساس Tinker في الخطوة 2 أدناه.

السرعة هي النصف الآخر من القصة. فبمعدل 24.2 دقيقة لكل مهمة في مؤشر Intelligence Index، يُعد Inkling 2 Small بطيئًا بشكل ملحوظ مقارنة بالوسيط البالغ 13.3 دقيقة للنماذج المماثلة. أما الجودة فتصمد: إذ يحرز 31 على المؤشر، وهو أعلى بكثير من الوسيط البالغ 23 للنماذج المماثلة. والمهام الطويلة تشغل السعة لفترة أطول، ويزداد ضرر ذلك حين تمتلك العتاد. ولهذا السبب نستخدم التكلفة لكل مهمة مكتملة وحدةً للقياس طوال هذا الدليل.

الحد الأدنى لتكلفة الاستضافة الذاتية: تسعير أصغر بصمة من وحدات معالجة الرسومات

أصغر بصمة موثّقة لصيغة NVFP4 هي 2x B300 أو 4x H200، لذا فإن الحد الأدنى لتكلفة الاستضافة الذاتية هو هذا العتاد عاملًا على مدار الساعة. وإن كنت تفاضل بينه وبين التهيئة الموثّقة الأخرى، فنقترح تسعيرها على حدة قبل تثبيت حدك الأدنى.

تفيد Spheron بأن أسعار B300 عند الطلب تتراوح بين $6.94 لكل ساعة GPU على Runpod و$15.00 لكل ساعة GPU على Oracle حتى 11 نوفمبر 2026، وتشير إلى أن AWS لا تقدم سعرًا حقيقيًا عند الطلب، بل Capacity Block مدفوعة مسبقًا فقط. وتُدرج American Compute عدد 23 مزوّدًا لوحدات B300 بأسعار عند الطلب تتراوح من $4.89 (DeepInfra) إلى $17.80 (AWS) بوسيط قدره $8.38، وأدنى سعر محجوز تُدرجه هو $4.00 لكل ساعة GPU بعقد مدته 3 سنوات.

حسابات توضيحية (مشتقة، لا مقيسة)

الأرقام أدناه ناتجة عن ضرب بسيط للأسعار المذكورة، وليست نتائج قياس أداء.

  • لا يشمل أي من هذه الأرقام التخزين أو الشبكات أو نسخة احتياطية للتكرار أو وقت الموظفين.

المنهج نفسه بسيط: اقسم تكلفة الاستضافة الذاتية بالساعة على التكلفة المستضافة لكل مهمة. ثم ضع رقمك الخاص المبني على Tinker. فارتفاع التكلفة المستضافة لكل مهمة يخفض معدل التعادل، وانخفاضها يرفعه. ولأن كل مهمة تستغرق دقائق عديدة، فإن هذا المعدل نفسه يستلزم تزامنًا كثيفًا لا يمكن تأكيده إلا عبر قياس الأداء الخاص بك.

تطبيق اختبار التعادل بين المعاملات المقيمة والنشطة

الخطوة 1: حدّد ملامح عبء العمل

قِس رموز المدخلات والمخرجات والرموز المخزّنة مؤقتًا الفعلية لكل مهمة عند مستوى الجهد الذي تخطط لاستخدامه في الإنتاج. متوسطات المؤشر هي نقطة البداية لا نقطة النهاية. وتشرح مقالتنا حول سبب حاجة نتائج قياس الأداء إلى بروتوكولات السبب في ذلك.

الخطوة 2: سعّر التكلفة المستضافة لكل مهمة

طبّق أسعار Tinker المعلنة الحالية من صفحة الأسعار على ملامح الرموز التي قستها. وأدرج أسعار المدخلات المخزّنة مؤقتًا إذا كانت مطالباتك تشترك في بادئات طويلة ومتكررة. والناتج هو تكلفتك المستضافة لكل مهمة.

الخطوة 3: سعّر الحد الأدنى للاستضافة الذاتية

اجمع ساعات GPU لأصغر بصمة مضافًا إليها نسخة احتياطية للتكرار. ثم أضف تخزين الأوزان البالغ نحو 394 GB (أو نحو 623 GB لصيغة MXFP8)، إلى جانب الشبكات. ولا تستخدم الأسعار المحجوزة إلا إذا كان بإمكانك الالتزام طوال مدة العقد. وأيًّا كانت التهيئة التي تختارها، نقترح أن تبني الحد الأدنى على عروض أسعار فعلية لا على نطاقات المسوح.

الخطوة 4: أضف أعباء التشغيل

أدرج تغطية المناوبة، وترقيات النموذج والمحرك، وضبط محرك الاستدلال، والمراقبة، وإعادة تشغيل التقييمات. وحوّل ذلك كله إلى تكلفة شاملة بالساعة على الأساس نفسه المستخدم لساعات GPU.

الخطوة 5: قِس الإنتاجية المستدامة

شغّل vLLM أو SGLang على العتاد المستهدف، بمطالباتك الخاصة، وعند هدف زمن الاستجابة لديك. وحوّل النتيجة المستدامة إلى عدد مهام في الساعة عند معدل استغلال واقعي. ولا مكان لأرقام الذروة في هذه الخطوة.

الخطوة 6: احسب معدل الاستغلال عند التعادل

عدد المهام في الساعة عند التعادل = إجمالي تكلفة الاستضافة الذاتية بالساعة / التكلفة المستضافة لكل مهمة.

قارن ذلك بعدد المهام في الساعة الذي يقدمه عنقودك في ظل حركة المرور المعتادة.

الخطوة 7: اتخذ القرار، وحدّد محفّزًا للمراجعة

دوّن افتراضاتك.

قائمة التحقق قبل اتخاذ القرار

  • [ ] ملامح الرموز المقيسة لكل مهمة، عند إعداد الجهد المستخدم في الإنتاج
  • [ ] أسعار Tinker المعلنة الحالية من صفحة الأسعار، بما فيها أسعار المدخلات المخزّنة مؤقتًا
  • [ ] عرضا أسعار على الأقل لوحدات GPU عند الطلب ومحجوزة لأصغر بصمة
  • [ ] عروض أسعار منفصلة لأي تهيئة بديلة تفكر فيها
  • [ ] تضمين نسخة احتياطية للتكرار في تكلفة الاستضافة الذاتية
  • [ ] تحويل وقت موظفي التشغيل إلى تكلفة شاملة بالساعة
  • [ ] قياس الإنتاجية المستدامة على العتاد المستهدف عند زمن الاستجابة المستهدف
  • [ ] التأكد من متطلبات طول السياق مقابل البصمة
  • [ ] مراجعة حدود المعدل واتفاقيات مستوى الخدمة (SLAs) وشروط البيانات في النسخة التجريبية المستضافة
  • [ ] التأكد من متطلبات إقامة البيانات وعزلها
  • [ ] اختبار الحساسية لتغيرات أسعار GPU والرموز
  • [ ] الاتفاق مع الإدارة المالية على تاريخ أو محفّز للمراجعة

الإنتاجية وطول السياق ومعدل الاستغلال: ما تخبرك به الوصفات المنشورة

تفيد وصفة vLLM بتحقيق نحو 1,100 رمز مخرجات في الثانية لكل GPU عند 100 رمز في الثانية لكل مستخدم، مع 1K من المدخلات و1K من المخرجات، باستخدام فك الترميز التخميني DSpark على صينيتين من GB200 تضم كل منهما 4 وحدات GPU عند TP8. وقد قيست على عتاد GB200 بمطالبات قصيرة، لذا تعامل معها بوصفها حدًا أعلى لا رقمًا للتخطيط.

حد أعلى مشتق، لا قياس

ستكون الإنتاجية الفعلية أقل. فقد تحمل مهامك مطالبات وسياقات أطول بكثير من إعداد الاختبار القصير في الوصفة. كما استخدمت الوصفة ثماني وحدات GPU على عتاد مختلف. ولا يعمل أي عنقود بطاقة الذروة على مدار الساعة. اقرأ هذه الفجوة على أنها سبب لإجراء قياس الأداء، لا دليل على أن الاستضافة الذاتية هي الرابحة.

قد يغيّر طول السياق بصمتك أيضًا. فوفقًا لوصفة vLLM، لا يتسع طلب بطول 1M رمز على صينية واحدة من 4 وحدات GPU: فإما أن تحدّ الطول الأقصى للنموذج عند 262,144 رمزًا عند TP4، وإما أن تشغّل عقدتين عند TP8 للسياق الكامل البالغ 1M. واستنتاجنا أن الحاجة الفعلية إلى السياق الكامل البالغ 1M قد تضاعف فاتورة العتاد تقريبًا. لكن الوصفة تشير إلى صواني GB200 ذات 4 وحدات GPU، لا إلى البصمة الدنيا 2x B300 أو 4x H200، لذا سعّر هذا الخيار على عتادك المستهدف.

ويهم أيضًا اختيار المحرك والنوى (kernels). إذ يفيد دليل SGLang بأن نواة MegaMoE الخاصة به خفّضت الوسيط لزمن الوصول إلى أول رمز بنسبة من 19 إلى 29% على GB300، دون أي تباطؤ في فك الترميز. قِس أداء إصدار المحرك الذي ستشغّله فعليًا في الإنتاج.

معدل الاستغلال هو العامل الذي يحسم التعادل. فوحدات GPU الخاملة تكلّف بقدر المشغولة، بينما لا تكلّف الرموز المستضافة شيئًا حين تتوقف الحركة. نقترح حساب التعادل مقابل متوسط حركة المرور على مدار اليوم كله، بما في ذلك ساعات الهدوء، لأن العنقود يكلّف المبلغ نفسه سواء كان مشغولًا أو خاملًا.

متى تؤتي الاستضافة الذاتية ثمارها، ومتى يتفوق الاستدلال المستضاف على Tinker

العامليرجّح الاستضافة الذاتيةيرجّح Tinker المستضاف
نمط حركة المرورحجم كبير وثابت يُبقي البصمة الدنيا مشغولةمتقطع أو موسمي أو منخفض الحجم
الفريقخبرة قائمة في تشغيل الاستدلاللا يوجد فريق مخصص للاستدلال
البنية التحتيةأسطول GPU قائم أو سعة محجوزةلا التزامات بوحدات GPU
المتطلباتاشتراطات صارمة لإقامة البيانات أو عزلهاشروط البيانات القياسية مقبولة بعد المراجعة
المرحلةعبء عمل إنتاجي مستقرالتجريب والتقييم وحلقات الضبط الدقيق

على الجانب المستضاف، لا يزال الاستدلال بلا خوادم من Tinker في مرحلة تجريبية (beta)، ولا يتوفر إلا لنماذج Inkling وInkling-Small وInkling 2 Small. وينبغي لأي خطة مستضافة أن تفترض ضمانات خدمة بمستوى النسخة التجريبية.

غالبًا ما يكون النمط الهجين هو الخيار الأسهل في الدفاع عنه. ويحتاج تقسيم حركة المرور على هذا النحو إلى طبقة توجيه مزوّدة بميزانيات وقابلية للرصد؛ ويتناول دليلنا العملي لتوجيه بوابات الذكاء الاصطناعي الضوابط التي ينبغي البحث عنها.

وقد تميل حلقات البحث والضبط الدقيق أيضًا نحو الإنفاق على الخدمة المستضافة. ففي عرض توضيحي للبحث الآلي، تفيد Thinking Machines بأن النموذج المدرَّب رفع درجته في التنبؤ إلى أكثر من الضعف بعد 4.5 ساعات من العمل وإنفاق $426 على Tinker. ونادرًا ما تبرر المشاريع القصيرة والمحدودة من هذا النوع عنقودًا مخصصًا.

أخطاء شائعة في حساب البناء مقابل الشراء

  • تحديد الحجم وفق المعاملات النشطة. يجب أن يستوعب العتاد 594B من المعاملات المقيمة، لا 17B.
  • مقارنة الأسعار لكل رمز. مع نموذج بهذا القدر من الإسهاب، لا يخبرك بما ستنفقه سوى التكلفة لكل مهمة مكتملة.
  • استخدام أرقام إنتاجية مستعارة. أرقام الذروة المأخوذة من عتاد آخر أو من مطالبات قصيرة لا تمثل الإنتاجية المستدامة في بيئة الإنتاج.
  • تجاهل التكرار والعنصر البشري. العنقود الذي لا يملك آلية لتجاوز الأعطال ليس سوى تجربة أولية، ووقت التشغيل تكلفة حقيقية للاستضافة الذاتية.

تحفظات قبل الالتزام

تتفاوت أسعار الاستئجار تفاوتًا كبيرًا بين المزوّدين: إذ تتراوح قائمة American Compute لوحدات B300 بين $4.89 و$17.80 لكل ساعة GPU عند الطلب. وكلا مسحَي الأسعار المستخدمَين هنا لقطتان في لحظة زمنية محددة؛ فأرقام Spheron مؤرخة في 11 نوفمبر 2026، لذا تحقق من تاريخ أي قائمة تعتمد عليها ومن أسعارها الحالية.

أرقام التكلفة والرموز المبنية على المؤشر هي متوسطات عبر مجموعة من اختبارات قياس الأداء. وقد يكون عبء عملك أخف أو أثقل بكثير، وهذا تحديدًا سبب أهمية الخطوة 1 من الاختبار.

تفيد Artificial Analysis بأن معدل الهلوسة لدى النموذج انخفض إلى 27% مقارنة بـ 61% لدى Inkling Small، بينما انخفض معدل محاولة الإجابة إلى 53% من 77%، ولم ترتفع الدقة إلا إلى 34% من 32%. وقراءتنا لهذه الأرقام أن انخفاض معدل الهلوسة يعود في معظمه إلى محاولة الإجابة عن أسئلة أقل، لذا خطّط لآليات بديلة حين يمتنع النموذج عن الإجابة.

كما تفيد Thinking Machines بأن نقاط الحفظ المبكرة من Inkling 2 Small كانت أحيانًا، في المهام الصعبة، تختلق النتائج وتتجاهل التعليمات وتخفي ما فعلته، مما أدى إلى مزيد من أعمال المواءمة. أبقِ عمليات التشغيل الوكيلية تحت المراقبة أيًّا كان أسلوب النشر الذي تختاره؛ ويُعد تتبع OpenTelemetry GenAI إحدى الطرق العملية لذلك.

الاستدلال المستضاف بلا خوادم في مرحلة تجريبية، لذا تحقق من حدود المعدل واتفاقيات مستوى الخدمة (SLAs) وشروط البيانات قبل البناء عليه. وتُعد قائمة التحقق من مخاطر مزوّدي الاستدلال لدينا نقطة انطلاق مفيدة. وأخيرًا، يغطي هذا الاختبار التكلفة فقط. أما مراجعة الترخيص والأمان والامتثال فيحتاج كل منها إلى تقييم مستقل.

النقاط الرئيسية

  1. ينطلق اختبار التعادل بين المعاملات المقيمة والنشطة من تفاوت واحد: يُفعّل Inkling 2 Small عدد 17B من معاملاته البالغة 594B لكل رمز، لكن الاستضافة الذاتية لنقطة الحفظ الرئيسية تتطلب 500GB على الأقل من VRAM المجمّعة (مثل 2x B300 أو 4x H200).
  2. تقول وثائق Tinker إنها تسعّر نماذج MoE وفق المعاملات النشطة، وتؤكد Thinking Machines أن ذلك يجعلها أرخص بكثير من النماذج الكثيفة ذات الجودة المماثلة؛ ولا يحصل من يستضيف ذاتيًا على خصم مماثل في الذاكرة.
  3. احسب التكلفة لكل مهمة لا لكل رمز: قاست Artificial Analysis نحو 150K رمز مخرجات و$1.18 لكل مهمة في مؤشر Intelligence Index، لكن استبدل بهذا الرقم تكلفتك الخاصة لكل مهمة المبنية على Tinker.
  4. تتراوح أسعار B300 عند الطلب بين $6.94 و$15.00 لكل ساعة GPU (Spheron) وبين $4.89 و$17.80 بوسيط قدره $8.38 (American Compute)؛ ونقترح تسعير أي تهيئة بديلة على حدة.
  5. استخدم نقطة الحفظ بصيغة NVFP4 (نحو 394 GB) افتراضيًا، إذ لا تتفوق MXFP8 (نحو 623 GB) إلا بمقدار 1 إلى 2 نقطة في التقييمات.
  6. الاستدلال المستضاف بلا خوادم في مرحلة تجريبية، لذا راجع حدود المعدل واتفاقيات مستوى الخدمة وشروط البيانات واحتياجاتك المتعلقة بإقامة البيانات أو عزلها قبل اختيار أحد الطرفين.

الخلاصة

إذا جرّدت اختبار التعادل بين المعاملات المقيمة والنشطة إلى جوهره، فستبقى أمامك مقارنة واحدة: عدد المهام في الساعة الذي يستطيع عنقودك الحفاظ عليه، مقابل عدد المهام في الساعة الذي يحتاج إليه ليعادل الفاتورة المستضافة. ويجعل Inkling 2 Small هذه المقارنة حادة على نحو غير معتاد. فالتسعير المستضاف يتبع معاملاته النشطة البالغة 17B، بينما يتعين على الاستضافة الذاتية الاحتفاظ بالمعاملات الـ594B كلها. ولأن النموذج مُسهب للغاية، فإن الأسعار لكل رمز لا تخبرك بالكثير حتى تضربها في حجم المخرجات الفعلي.

بالنسبة لمعظم الفرق، يكون الترتيب المعقول هو البدء بالخدمة المستضافة وقياس ملامح الرموز الخاصة بك. ثم تسعير الحد الأدنى للاستضافة الذاتية بعروض أسعار فعلية لوحدات GPU، ونسخة احتياطية للتكرار، ووقت تشغيل بتكلفته الشاملة. وتميل الاستضافة الذاتية إلى أن تؤتي ثمارها حين تُبقي حركة المرور الثابتة البصمة الدنيا مشغولة، أو حين تستبعد متطلبات العزل الخدمات المشتركة. وكثيرًا ما يقع الإعداد الهجين في موضع معقول بين الخيارين. وأيًّا كان اختيارك، دوّن افتراضاتك وأعد النظر فيها حين تتغير الأسعار أو حركة المرور. وإن كان ذلك مفيدًا، يمكن لـ Optijara أن تعمل مع فريقك على نموذج التعادل باستخدام ملامح الرموز الخاصة بكم وعروض أسعار وحدات GPU لديكم.

الأسئلة الشائعة

ما مقدار ذاكرة GPU التي يحتاج إليها Inkling 2 Small للاستضافة الذاتية؟

وفقًا لبطاقة النموذج، تتطلب نقطة الحفظ الرئيسية بصيغة NVFP4 عنقودًا من وحدات GPU بذاكرة VRAM مجمّعة لا تقل عن 500GB. ومن أمثلة التهيئات التي تستوفي ذلك 2x NVIDIA B300 أو 4x NVIDIA H200. وفي بيئة الإنتاج، نقترح التخطيط لنسخة احتياطية للتكرار فوق ذلك، وتسعير أي تهيئة تختارها بعروض أسعار فعلية.

لماذا يحتاج نموذج بـ 17B معامل نشط إلى عتاد مُعدّ لـ 594B معامل؟

Inkling 2 Small نموذج من نوع خليط الخبراء يوجّه كل رمز إلى 8 من أصل 384 خبيرًا عبر 48 طبقة. ولا يعمل سوى 17B معامل على أي رمز بعينه، لكن حجم الذاكرة يتحدد بنقطة الحفظ الكاملة: إذ تذكر بطاقة النموذج أن نقطة الحفظ الرئيسية بصيغة NVFP4 تحتاج إلى 500GB على الأقل من VRAM المجمّعة، ويقدّر دليل SGLang حجم هذه النقطة بنحو 394 GB.

هل تستحق نقطة الحفظ بصيغة MXFP8 الذاكرة الإضافية؟

في الغالب لا. تقول Thinking Machines إن MXFP8 لا تتفوق على NVFP4 إلا بمقدار 1 إلى 2 نقطة مئوية في التقييمات، ولا ترى أن ذلك ذو أهمية في الاستخدام العملي. ويبلغ حجم نقطة الحفظ بصيغة MXFP8 نحو 623 GB، مقابل نحو 394 GB لنقطة الحفظ الرئيسية. لا تخترها إلا إذا أظهرت تقييماتك الخاصة أن هذا المكسب مهم.

كم تبلغ تكلفة المهمة النموذجية على الاستدلال المستضاف؟

قاست Artificial Analysis تكلفة قدرها $1.18 لكل مهمة في مؤشر Intelligence Index لنموذج Inkling 2 Small، مدفوعة بنحو 150K رمز مخرجات لكل مهمة. وهذا متوسط عبر مجموعة من اختبارات قياس الأداء، ولم نتحقق من أسعار أي مزوّد يعكسها، لذا قِس ملامح الرموز الخاصة بك وطبّق أسعار Tinker المعلنة الحالية من صفحة الأسعار.

كيف أطبّق اختبار التعادل بين المعاملات المقيمة والنشطة؟

اقسم إجمالي تكلفة الاستضافة الذاتية بالساعة (وحدات GPU والتكرار والتخزين والشبكات ووقت التشغيل بتكلفته الشاملة) على تكلفتك المستضافة لكل مهمة. والناتج هو عدد المهام في الساعة الذي يجب أن يحافظ عليه عنقودك ليعادل الفاتورة المستضافة. قارنه بالإنتاجية المستدامة المقيسة على عتادك الخاص، لا بأرقام الذروة المنشورة.

هل يمكنني تشغيل السياق الكامل البالغ 1M رمز على عقدة واحدة، وهل الاستدلال المستضاف جاهز للإنتاج؟

على vLLM، لا يتسع طلب بطول 1M رمز على صينية واحدة من 4 وحدات GPU: فإما أن تحدّ السياق عند 262,144 رمزًا عند TP4، وإما أن تشغّل عقدتين عند TP8. وعلى الجانب المستضاف، لا يزال الاستدلال بلا خوادم من Tinker في مرحلة تجريبية ولا يشمل سوى عائلة Inkling، لذا تحقق من الحدود واتفاقيات مستوى الخدمة وشروط البيانات قبل الاعتماد عليه.

المصادر

  1. https://thinkingmachines.ai/news/inkling-2-small/
  2. https://thinkingmachines.ai/model-card/inkling-2-small/
  3. https://tinker-docs.thinkingmachines.ai/tinker/models/models_and_pricing/
  4. https://artificialanalysis.ai/articles/thinking-machines-releases-inkling-2-small-highest-scoring-open-weights-model-outside-of-chinia-upon-weights-release-it
  5. https://artificialanalysis.ai/models/inkling-2-small
  6. https://recipes.vllm.ai/thinkingmachines/Inkling-2-Small
  7. https://docs.sglang.io/cookbook/autoregressive/ThinkingMachines/Inkling-2-Small
  8. https://the-decoder.com/thinking-machines-inkling-2-small-claims-top-spot-among-western-open-weight-models/
  9. https://www.amcompute.com/gpu-cloud-prices
  10. https://www.spheron.network/blog/nvidia-b300-cloud-pricing-2026-on-demand-and-reserved-rates/

شارك هذا المقال

Hamza Diaz

بقلم

Hamza Diaz

حمزة دياز هو مؤسس Optijara، حيث يبني وكلاء ذكاء اصطناعي عمليين، وأنظمة أتمتة، وسير عمل Copilot للشركات الخدمية. يكتب عن تشغيل الذكاء الاصطناعي، واستراتيجية الوكلاء، والتطبيق الواقعي للفرق التي تريد أنظمة مفيدة بدلًا من الضجيج.

كل المقالات

الخطوة التالية

لديك ما تريد بناءه؟

أخبرنا بما تحتاجه، ونعود إليك بنطاق عمل واضح وعرض سعر ثابت.