本地模型运行

选择用 llama.cpp 与 GGUF 在 CPU、Mac Metal、CUDA 或 ROCm 本地运行的模型。覆盖寻找 GGUF、量化选择、运行 server、精确 GGUF 文件查找、转换，以及 OpenAI 兼容的本地服务。