GGUF 量化

高效 CPU/GPU 推理的 GGUF 格式与 llama.cpp 量化。在消费硬件、Apple Silicon、或需 2-8 bit 灵活量化且无 GPU 要求时部署模型时使用。