下载

Skill UI

浏览并发现 11131+ 精选技能

全部编程开发人工智能设计创意产品商业数据科学市场营销职场通用效率工具硬件工程语言学习

搜索 CUDA ，共找到 5 条记录

默认排序最新上传最多下载

CPU/边缘本地大模型推理

Orchestra-Research/AI-Research-SKILLs

llama.cpp是一个纯C/C++编写的轻量级推理框架，专为在资源受限的设备上运行大型语言模型（LLM）而设计。它特别适用于没有高性能NVIDIA GPU（CUDA）的场景，非常适合Apple Silicon、AMD/Intel GPU以及边缘计算设备。通过支持GGUF量化，可以实现内存占用和推理速度的显著优化，支持本地跨平台部署。

RWKV 混合架构

rwkv-architecture

Orchestra-Research/AI-Research-SKILLs

RWKV 是结合 Transformer 训练与 RNN 推理的混合架构，提供线性时间推理、无限上下文与零 KV 缓存，可在流式或超长上下文场景中用 CUDA/CPU 低内存部署。

YOLO模型微调与部署

SharpAI/DeepCamera

该技能提供了一个完整的计算机视觉模型生命周期管理工具，支持从自定义数据集标注到模型部署的全流程。用户可以在该平台上使用Agent驱动的工作流，在自定义的COCO格式数据集上微调YOLO模型。它具备硬件感知训练能力，并能自动将模型导出为TensorRT、CoreML、OpenVINO等优化格式，最后可一键部署为活动的检测技能。

YOLO 2026实时目标检测

yolo-detection-2026

SharpAI/DeepCamera

基于最新的YOLO 2026模型，提供高性能的实时物体检测功能。该技能可识别80多个COCO物体类别，并输出带有边界框和置信度的检测结果。它支持自动硬件加速，能够自动优化模型以适配不同的计算平台（如CUDA、MPS、OpenVINO等），确保无论在CPU、GPU还是NPU上运行，都能达到最佳的检测速度和准确性。

本地GGUF大型语言模型部署

huggingface-local-models

sickn33/antigravity-awesome-skills

本技能提供了一套完整的指南，用于利用 llama.cpp 框架和 GGUF 格式在本地部署大型语言模型（LLMs）。它涵盖了在 Hugging Face Hub 搜索模型、选择最佳量化配置，以及运行支持 CPU、Mac Metal、CUDA 和 ROCm 等多种硬件后端的本地推理服务器。支持实现兼容 OpenAI 格式的 API 接口，适用于需要离线、私密部署的大模型推理场景。

1

语言