HQQ 量化

Orchestra-Research/AI-Research-SKILLs/10-optimization/hqq

12.1k 0TeX研究
平台通用(跨宿主)

无需校准数据的 LLM 半二次量化。把模型量化到 4/3/2-bit 且无校准数据集、用于快速量化工作流、或用 vLLM/HuggingFace Transformers 部署时使用。

全部 skill