全部 skill

llama.cpp 本地 GGUF 推理，并从 HuggingFace Hub 发现模型。

Set up Actual Computer (actual.inc) inference in Hermes.EN

用 Unsloth Core 在单张消费级 GPU 上微调与后训练 LLM：VRAM 估算、LoRA/QLoRA、GRPO/DPO、chat 模板正确性与 GGUF 导出。

在 CPU、Apple Silicon、消费 GPU 上跑 LLM 推理，无需 NVIDIA 硬件。用于边缘部署、M1/M2/M3 Mac、AMD/Intel GPU、或 CUDA 不可用时。支持 GGUF 量化（1.5-8 bit）减内存、比 PyTorch CPU 快 4-10×。

高效 CPU/GPU 推理的 GGUF 格式与 llama.cpp 量化。在消费硬件、Apple Silicon、或需 2-8 bit 灵活量化且无 GPU 要求时部署模型时使用。