下载

Skill UI

浏览并发现 5096+ 精选技能

全部编程开发人工智能设计创意产品商业数据科学市场营销职场通用效率工具硬件工程语言学习

搜索 DeepSpeed ，共找到 4 条记录

默认排序最新上传最多下载

DeepSpeed 分布式训练助手

Orchestra-Research/AI-Research-SKILLs

提供 DeepSpeed 分布式训练指导，包括 ZeRO、流水线并行、混合精度、DeepNVMe I/O 等实战细节，适合实现、调试和部署大模型时查阅。

Accelerate 分布式训练助手

huggingface-accelerate

Orchestra-Research/AI-Research-SKILLs

Accelerate 让 PyTorch 脚本只需四行改动即可支持 DDP、DeepSpeed、FSDP、Megatron 与混合精度训练，并通过单一命令自动处理设备部署、分片和交互式配置，适合快速原型及跨硬件运行。

MoE专家混合训练指南

Orchestra-Research/AI-Research-SKILLs

使用DeepSpeed或HuggingFace训练MoE专家模型，适用于Mixtral 8x7B等稀疏架构，涵盖路由、负载均衡与高效扩展，节省有限算力。

PyTorch Lightning 训练框架

pytorch-lightning

Orchestra-Research/AI-Research-SKILLs

PyTorch Lightning 提供高层训练框架，内置分布式训练（DDP/FSDP/DeepSpeed）、回调、检查点、日志与设备管理，帮助你从笔记本到多节点集群轻松运行高质量模型训练。

1

语言