TransformerLens 可解释性

Orchestra-Research/AI-Research-SKILLs/04-mechanistic-interpretability/transformer-lens

12.1k 0TeX设计
平台通用(跨宿主)

用 TransformerLens 经 HookPoints 与激活缓存检查并操纵 transformer 内部,做机制可解释性研究指引。逆向工程模型算法、研究注意力模式、或做激活补丁实验时使用。

全部 skill