Quants GGUF de llama.cpp en Transformers: como verificar la ruta empaquetada en Apple Silicon
Hugging Face Transformers ahora puede usar quants GGUF al estilo llama.cpp mediante kernels ggml Metal en Apple Silicon, pero una carga exitosa no prueba una ejecucion empaquetada. Esta guia ofrece a los operadores un mapa practico de verificacion para separar las rutas GGUF empaquetadas de la descuantizacion y de los respaldos de atencion.







