软件下载帮助文档新闻资讯

Skill UI

浏览并发现 16569+ 精选技能

全部编程开发人工智能设计创意产品商业数据科学市场营销职场通用效率工具硬件工程语言学习

搜索模型可解释性，共找到 6 条记录

默认排序最新上传最多下载

机器学习模型解释

explaining-machine-learning-models

jeremylongshore/claude-code-plugins-plus-skills

通过 SHAP、LIME 等可解释性手段分析模型预测结果，揭示关键特征影响，辅助调试模型、确保公平性并向非技术人员阐述模型表现。

模型可解释性工具

model-explainability-tool

jeremylongshore/claude-code-plugins-plus-skills

在机器学习训练过程中，自动响应模型可解释性工具相关请求，提供分步实践、代码配置与验证建议，助力数据准备、调参和实验追踪等任务。

远程模型可解释性工具

nnsight-remote-interpretability

Orchestra-Research/AI-Research-SKILLs

通过 nnsight 的 trace 与激活接口，有效分析或干预 PyTorch 模型内部，支持在本地小模型和借助 NDIF 的 70B+ 远程模型上执行，可对激活进行保存、替换和对比。

稀疏自编码器：模型可解释性分析

sparse-autoencoder-training

Orchestra-Research/AI-Research-SKILLs

本工具提供稀疏自编码器（SAE）的训练和分析框架。SAEs能够将大型语言模型内部密集的、多义的激活信号分解为稀疏、单义的特征。适用于需要发现模型学到的离散可解释概念、研究特征叠加性，或分析模型内部特定安全相关行为（如偏见或欺骗）的场景。

变换器机制可解释性分析

transformer-lens-interpretability

Orchestra-Research/AI-Research-SKILLs

这是一个用于大型语言模型的机制可解释性研究库。它允许用户通过HookPoints和激活缓存来深入检查和操作Transformer模型的内部机制，例如注意力模式、残差流和MLP输出。该工具对于逆向工程模型算法、执行因果追踪和分析模型内部电路至关重要。

SHAP 模型可解释性

K-Dense-AI/claude-scientific-skills

提供 SHAP 相关指导，展示如何计算特征重要性、绘制解读图、调试模型、分析偏差与公平性，并对各种模型（树、深度、线性、黑盒）进行解释与比较。

1

语言