Quants GGUF llama.cpp dans Transformers : comment verifier le chemin compacte sur Apple Silicon
Hugging Face Transformers peut desormais utiliser des quants GGUF de style llama.cpp via les noyaux ggml Metal sur Apple Silicon, mais un chargement reussi ne prouve pas une execution compacte. Ce guide donne aux operateurs une carte de verification pratique pour distinguer les chemins GGUF compacts de la dequantification et des replis d'attention.







