captum.ai

PyTorch library for model interpretability across modalities. Captum是一个用于模型可解释性的PyTorch库。它提供了理解和归因PyTorch模型预测的工具和技术，涵盖不同的数据类型，包括视觉和文本。Captum支持大多数PyTorch模型，并允许轻松实现和基准测试新的可解释性算法。 如何使用 Captum？ 通过conda或pip安装Captum。导入必要的库，如numpy，torch，以及来自captum.attr的IntegratedGradients。定义并准备你的PyTorch模型。实例化一个可解释性算法（如IntegratedGradients）。将算法应用于你的输入数据和基线，以获得归因和收敛增量。 Captum 的核心功能 多模态可解释性支持 基于PyTorch 可扩展和开源