
Inkling 2 Small autoalojado vs API de Tinker: la prueba de punto de equilibrio Residente vs Activo
Inkling 2 Small activa solo 17B parámetros por token, pero autoalojarlo implica mantener los 594B en memoria. Esta guía presenta un método paso a paso para comparar la inferencia alojada en Tinker con la ejecución de los pesos abiertos en tus propias GPU, usando el coste por tarea en lugar del coste por token.







