软件下载帮助文档新闻资讯

Skill UI

浏览并发现 15857+ 精选技能

全部编程开发人工智能设计创意产品商业数据科学市场营销职场通用效率工具硬件工程语言学习

搜索 FP8 ，共找到 3 条记录

默认排序最新上传最多下载

企业级大模型强化学习训练

miles-rl-training

Orchestra-Research/AI-Research-SKILLs

为企业级 MoE 大模型提供 miles 强化学习训练指导，覆盖 FP8/INT4 低精度、训练推理对齐与投机式推理流程，保障稳定性与最大吞吐量。

闪电注意力优化器

optimizing-attention-flash

Orchestra-Research/AI-Research-SKILLs

Flash Attention 优化器在训练或运行长序列 Transformer 时提供 2-4 倍加速和 10-20 倍内存削减，适用于缓解注意力显存瓶颈与推理延迟，支持 PyTorch 原生 SDPA、flash-attn 库、H100 FP8 及滑动窗口注意力等场景。

TensorRT LLM 推理优化

Orchestra-Research/AI-Research-SKILLs

在 NVIDIA GPU 上使用 TensorRT 优化大模型推理，支持 FP8/INT4 量化、多 GPU 扩展及高吞吐量部署，适合实时与生产环境。

1

语言