长上下文扩展

用 RoPE、YaRN、ALiBi、位置插值技术扩展 transformer 上下文窗口。处理长文档（32k-128k+ token）、把预训练模型扩展到原上下文限制外、或实现高效位置编码时使用。覆盖旋转嵌入、注意力偏置、插值法、LLM 外推策略。