下载

Skill UI

浏览并发现 10578+ 精选技能

全部编程开发人工智能设计创意产品商业数据科学市场营销职场通用效率工具硬件工程语言学习

搜索 SDP ，共找到 2 条记录

默认排序最新上传最多下载

TorchTitan 分布式预训练

distributed-llm-pretraining-torchtitan

Orchestra-Research/AI-Research-SKILLs

基于 PyTorch 的 TorchTitan 实现 4D 并行（FSDP2/TP/PP/CP），支持 8~512+ GPU、Float8、编译优化与分布式检查点，用于 Llama 3.1、DeepSeek V3 或自定义大模型的预训练。

PyTorch Lightning深度学习框架

pytorch-lightning

K-Dense-AI/scientific-agent-skills

PyTorch Lightning是一个全面的深度学习框架，用于组织和自动化PyTorch模型的训练流程。它通过将模型组织为LightningModules，简化了繁琐的编写代码，并在Trainer中自动化训练循环。该框架支持多GPU/TPU分布式训练（DDP, FSDP），并集成了数据加载、回调函数和实验跟踪（W&B, MLflow），适用于构建专业、可扩展的深度学习项目。

1

语言