Hugging Face 9 月 22 日宣布，Transformers 可以直接加载并运行 GGUF 量化模型。开发者可从 Hub 选择适合本机内存的 GGUF 文件，通过 from_pretrained 加载，再继续使用标准 Transformers 生成和评测接口。

首批高效打包推理路径面向 Apple Silicon，重点覆盖 Qwen3.5 的稠密与混合专家架构，并兼容部分 Qwen3.8 检查点。官方建议从 Q4_K_M 量化开始；如果内存更充足，再比较 Q5_K_M 或 Q6_K。当前实现仍有边界，例如打包内核暂限 MPS，批处理和更多架构支持仍在完善。

这次整合适合已经使用 PyTorch 和 Transformers、又希望在 Mac 本地测试量化模型的开发者。只追求本地推理效率时，Hugging Face 仍建议优先使用 llama.cpp；需要检查中间层、做评测或继续训练时，Transformers 的统一接口更方便。