Captum
月访问量
7,789
2026-09
月流量增速 +7.5%

Captum - 解释 PyTorch 模型在视觉、文本等模态中的行为

Captum 是一个用于解释 PyTorch 模型的开源库,提供将模型输出归因到输入的算法,支持视觉、文本等模态。开发者可以通过 conda 或 pip 安装,应用 Integrated Gradients 等方法,并扩展该库以实现和评测可解释性算法。

访问网站更新此产品

0访问量

核心能力

模型输入归因

将模型输出归因于输入,并返回归因值。提供 PyTorch 模型、输入张量,以及适用时的基线张量和目标,然后选择 Integrated Gradients 等算法。

多模态模型解释

对视觉、文本等支持的模态应用可解释性方法。Captum 面向受支持的 PyTorch 模型,可在仅对原始神经网络进行少量修改的情况下使用。

可扩展算法库

使用开源通用库实现并评测新的可解释性算法。研究人员和开发者可以扩展 Captum,而不局限于库中已有的算法。

PyTorch 模型支持

对大多数类型的 PyTorch 模型使用可解释性方法。提供已准备好的 PyTorch 神经网络并选择方法;通常只需对原始模型进行少量修改。

定价

Captum 是开源库,所提供的官方页面没有列出付费方案或计费条款。没有列出的方案价格、配额或按方案区分的功能可供比较。

使用场景

分析模型预测对应的输入贡献

检查 PyTorch 模型输出时,计算哪些输入值对选定结果有贡献。准备模型和输入张量,可选提供基线与目标,再应用 Integrated Gradients 等归因方法以获得归因值。

实现并评测可解释性算法

当现有方法无法覆盖某项可解释性实验时,可基于通用库扩展新算法。Captum 是开源库,支持用户为 PyTorch 模型实现并评测可解释性算法。

适用人群

  • 使用 PyTorch 神经网络模型的开发者

  • 实现或评测模型可解释性算法的研究人员

常见问题

Captum 支持哪种机器学习框架?

Captum 支持 PyTorch 模型。官网称其支持大多数类型的 PyTorch 模型,并且只需对原始神经网络进行少量修改即可使用。

Captum 可以解释哪些模型模态?

Captum 支持视觉、文本等模态的可解释性。所提供的页面没有列出全部受支持的模态。

如何安装 Captum?

可以通过 conda 或 pip 安装 Captum。官网推荐 conda,并提供命令 conda install captum -c pytorch 和 pip install captum。

可以为 Captum 添加可解释性算法吗?

可以。Captum 被描述为用于可解释性研究的可扩展开源通用库,用户可以实现并评测新算法。

官方链接

评论

请先 登录 再发表评论。
还没有评论。成为第一个分享想法的人吧!