下载

Skill UI

浏览并发现 9688+ 精选技能

全部编程开发人工智能设计创意产品商业数据科学市场营销职场通用效率工具硬件工程语言学习

搜索特征发现，共找到 1 条记录

默认排序最新上传最多下载

稀疏自编码器：模型可解释性分析

sparse-autoencoder-training

Orchestra-Research/AI-Research-SKILLs

本工具提供稀疏自编码器（SAE）的训练和分析框架。SAEs能够将大型语言模型内部密集的、多义的激活信号分解为稀疏、单义的特征。适用于需要发现模型学到的离散可解释概念、研究特征叠加性，或分析模型内部特定安全相关行为（如偏见或欺骗）的场景。

1

语言