又在 GitHub 上发现一款可视化大模型内部运作的开源工具:OpenMAV。
通过交互式终端界面,可实时可视化 LLM 在生成文本时的内部状态,包括注意力分布、MLP 激活值和 Token 预测概率等。
GitHub:网页链接
除此之外,还可通过插件轻松扩展可视化功能,并支持多种模型,如 GPT-2、Llama 等。
通过交互式终端界面,可实时可视化 LLM 在生成文本时的内部状态,包括注意力分布、MLP 激活值和 Token 预测概率等。
GitHub:网页链接
除此之外,还可通过插件轻松扩展可视化功能,并支持多种模型,如 GPT-2、Llama 等。