
- 月访问量
- 7,789
- 2026-09
- 月流量增速 +7.5%
Captum - 解释 PyTorch 模型在视觉、文本等模态中的行为
Captum 是一个用于解释 PyTorch 模型的开源库,提供将模型输出归因到输入的算法,支持视觉、文本等模态。开发者可以通过 conda 或 pip 安装,应用 Integrated Gradients 等方法,并扩展该库以实现和评测可解释性算法。

核心能力
模型输入归因
将模型输出归因于输入,并返回归因值。提供 PyTorch 模型、输入张量,以及适用时的基线张量和目标,然后选择 Integrated Gradients 等算法。
多模态模型解释
对视觉、文本等支持的模态应用可解释性方法。Captum 面向受支持的 PyTorch 模型,可在仅对原始神经网络进行少量修改的情况下使用。
可扩展算法库
使用开源通用库实现并评测新的可解释性算法。研究人员和开发者可以扩展 Captum,而不局限于库中已有的算法。
PyTorch 模型支持
对大多数类型的 PyTorch 模型使用可解释性方法。提供已准备好的 PyTorch 神经网络并选择方法;通常只需对原始模型进行少量修改。
定价
Captum 是开源库,所提供的官方页面没有列出付费方案或计费条款。没有列出的方案价格、配额或按方案区分的功能可供比较。
使用场景
分析模型预测对应的输入贡献
检查 PyTorch 模型输出时,计算哪些输入值对选定结果有贡献。准备模型和输入张量,可选提供基线与目标,再应用 Integrated Gradients 等归因方法以获得归因值。
实现并评测可解释性算法
当现有方法无法覆盖某项可解释性实验时,可基于通用库扩展新算法。Captum 是开源库,支持用户为 PyTorch 模型实现并评测可解释性算法。
适用人群
使用 PyTorch 神经网络模型的开发者
实现或评测模型可解释性算法的研究人员
常见问题
Captum 支持哪种机器学习框架?
Captum 支持 PyTorch 模型。官网称其支持大多数类型的 PyTorch 模型,并且只需对原始神经网络进行少量修改即可使用。
Captum 可以解释哪些模型模态?
Captum 支持视觉、文本等模态的可解释性。所提供的页面没有列出全部受支持的模态。
如何安装 Captum?
可以通过 conda 或 pip 安装 Captum。官网推荐 conda,并提供命令 conda install captum -c pytorch 和 pip install captum。
可以为 Captum 添加可解释性算法吗?
可以。Captum 被描述为用于可解释性研究的可扩展开源通用库,用户可以实现并评测新算法。
评论