全部 skill

llama.cpp 本地 GGUF 推理，并从 HuggingFace Hub 发现模型。

在 Apple 芯片 macOS 上用 Apple 开源 container CLI 将 OCI/Linux 容器作为轻量每容器 VM 构建、运行与管理，无需 Docker 守护进程。

在 CPU、Apple Silicon、消费 GPU 上跑 LLM 推理，无需 NVIDIA 硬件。用于边缘部署、M1/M2/M3 Mac、AMD/Intel GPU、或 CUDA 不可用时。支持 GGUF 量化（1.5-8 bit）减内存、比 PyTorch CPU 快 4-10×。

高效 CPU/GPU 推理的 GGUF 格式与 llama.cpp 量化。在消费硬件、Apple Silicon、或需 2-8 bit 灵活量化且无 GPU 要求时部署模型时使用。