Orchestra-Research/AI-Research-SKILLs/10-optimization/hqq
无需校准数据的 LLM 半二次量化。把模型量化到 4/3/2-bit 且无校准数据集、用于快速量化工作流、或用 vLLM/HuggingFace Transformers 部署时使用。
全部 skill