
Auto-hébergement d'Inkling 2 Small ou API Tinker : le test de rentabilité « résident vs actif »
Inkling 2 Small n'active que 17B paramètres par token, mais l'auto-hébergement impose de garder les 594B en mémoire. Ce guide propose une méthode pas à pas pour comparer l'inférence hébergée sur Tinker et l'exécution des poids ouverts sur vos propres GPU, en raisonnant en coût par tâche plutôt qu'en coût par token.







