TransformerLens 可解释性
Orchestra-Research/AI-Research-SKILLs/04-mechanistic-interpretability/transformer-lens
平台通用(跨宿主)
用 TransformerLens 经 HookPoints 与激活缓存检查并操纵 transformer 内部,做机制可解释性研究指引。逆向工程模型算法、研究注意力模式、或做激活补丁实验时使用。
Orchestra-Research/AI-Research-SKILLs/04-mechanistic-interpretability/transformer-lens
用 TransformerLens 经 HookPoints 与激活缓存检查并操纵 transformer 内部,做机制可解释性研究指引。逆向工程模型算法、研究注意力模式、或做激活补丁实验时使用。