登录
下载
Skill UI
浏览并发现
7115+
精选技能
全部
编程开发
人工智能
设计创意
产品商业
数据科学
市场营销
职场通用
效率工具
硬件工程
语言学习
搜索
注意力
,共找到
4
条记录
默认排序
最新上传
最多下载
闪电注意力优化器
optimizing-attention-flash
Orchestra-Research/AI-Research-SKILLs
139
Flash Attention 优化器在训练或运行长序列 Transformer 时提供 2-4 倍加速和 10-20 倍内存削减,适用于缓解注意力显存瓶颈与推理延迟,支持 PyTorch 原生 SDPA、flash-attn 库、H100 FP8 及滑动窗口注意力等场景。
查看详情
高吞吐量大模型服务
serving-llms-vllm
Orchestra-Research/AI-Research-SKILLs
233
使用 vLLM 的分块注意力、连续批处理、量化与张量并行能力,为 OpenAI 兼容接口提供高吞吐量的生产级大模型服务,兼顾延迟、GPU 利用和扩展性。
查看详情
变换器机制可解释性分析
transformer-lens-interpretability
Orchestra-Research/AI-Research-SKILLs
468
这是一个用于大型语言模型的机制可解释性研究库。它允许用户通过HookPoints和激活缓存来深入检查和操作Transformer模型的内部机制,例如注意力模式、残差流和MLP输出。该工具对于逆向工程模型算法、执行因果追踪和分析模型内部电路至关重要。
查看详情
注意力驱动的邮件标题
subject-line-psychologist
sickn33/antigravity-awesome-skills
465
本技能结合受众、序列和设备信息,利用好奇、关联与信任等心理触发,设计邮件主题及通知文案,促进打开率且保证内容兑现。
查看详情
1
语言
简体中文
English