Claude开源LLM思维可视化工具
Claude团队开源LLM思维可视化工具核心信息梳理：
1. 工具功能
推出"电路追踪"工具，通过生成归因图可视化大模型内部信息处理路径。支持交互式探索和节点干预验证。
2. 技术原理
基于transcoders近似MLP行为，创建超节点表征模型功能单元。通过修改特征激活值验证节点功能假设。
3. 应用示例
展示两阶推理（达拉斯→德州→奥斯汀）和多语言处理（英/法/中"大"字输出）的电路分析，演示节点干预效果。
4. 开源生态
提供GitHub代码库（400+Star）、Colab notebook和Neuronpedia交互平台，支持主流开源模型分析。
5. 研究意义
填补AI可解释性研究空白，为理解LLM决策机制提供"显微镜"，推动社区协作研究模型内部机制。
