Quants GGUF llama.cpp no Transformers: como verificar o caminho compactado no Apple Silicon
O Hugging Face Transformers agora pode usar quants GGUF ao estilo llama.cpp por meio de kernels ggml Metal no Apple Silicon, mas um carregamento bem-sucedido não prova execução compactada. Este guia oferece aos operadores um mapa prático de verificação para separar caminhos GGUF compactados de fallbacks de dequantização e atenção.







