登录
软件下载 帮助文档 新闻资讯

Skill UI

浏览并发现 16569+ 精选技能
全部 编程开发 人工智能 设计创意 产品商业 数据科学 市场营销 职场通用 效率工具 硬件工程 语言学习
搜索 模型部署 ，共找到 84 条记录
默认排序 最新上传 最多下载

GGUF量化：高效大模型推理

gguf-quantization
Orchestra-Research/AI-Research-SKILLs
403
本指南深入介绍GGUF格式和模型量化技术，旨在实现大语言模型（LLM）在消费级硬件上的高效推理。通过采用GGUF标准格式和K-quant方法进行模型压缩，可以显著降低内存和硬件要求，使开发者能够在Apple Silicon、CPU或边缘设备上部署高性能AI应用。
查看详情

GPTQ LLM 量化指南

gptq
Orchestra-Research/AI-Research-SKILLs
81
GPTQ 提供后训练 4 位量化，可在 RTX 4090/3090 等消费级 GPU 上将大模型压缩至 1/4 内存并加速推理，同时维持低于 2% 的困惑度损失，适合部署和 QLoRA 微调。
查看详情

GPU资源优化器

gpu-resource-optimizer
jeremylongshore/claude-code-plugins-plus-skills
127
为机器学习部署提供 GPU 资源优化指导，生成可生产化配置并校验模型服务、运维流水线与监控场景的应用实践。
查看详情

半二次量化方案

hqq-quantization
Orchestra-Research/AI-Research-SKILLs
185
提供无需校准数据即可将大模型权重量化至1位的流程，兼容 vLLM 与 HuggingFace，支持多种后端和 LoRA/PEFT 微调，适合快速部署与实验极限量化。
查看详情

大型语言模型（LLM）实现与训练

implementing-llms-litgpt
Orchestra-Research/AI-Research-SKILLs
376
LitGPT提供了一个用于实现和训练超过20种前沿大型语言模型（如Llama, Gemma, Mistral）的工具。它支持完整的微调（Fine-tuning）、高效的LoRA适配以及从零开始的预训练流程。适用于需要清晰模型结构、学术理解或生产级部署的开发者。
查看详情

推理延迟分析器

inference-latency-profiler
jeremylongshore/claude-code-plugins-plus-skills
208
本技能自动处理推理延迟分析器相关任务，在 ML 部署场景中提供模型服务、MLOps 管道、监控和生产优化等按步骤指导，生成生产级代码并校验输出标准，助力快速完成推理性能调优。
查看详情

知识蒸馏：大模型压缩

knowledge-distillation
Orchestra-Research/AI-Research-SKILLs
417
知识蒸馏（KD）是一种核心的AI模型压缩技术。它旨在将性能强大的大型语言模型（Teacher）的知识，高效地转移给更小、更易于部署的学生模型（Student）。这使得开发者能够在不损失关键性能的前提下，大幅降低推理成本，实现将前沿大模型能力落地到实际应用场景。
查看详情

CPU/边缘本地大模型推理

llama-cpp
Orchestra-Research/AI-Research-SKILLs
321
llama.cpp是一个纯C/C++编写的轻量级推理框架，专为在资源受限的设备上运行大型语言模型（LLM）而设计。它特别适用于没有高性能NVIDIA GPU（CUDA）的场景，非常适合Apple Silicon、AMD/Intel GPU以及边缘计算设备。通过支持GGUF量化，可以实现内存占用和推理速度的显著优化，支持本地跨平台部署。
查看详情

LlamaGuard 内容审核

llamaguard
Orchestra-Research/AI-Research-SKILLs
441
LlamaGuard 是 Meta 提供的 7-8B 参数审核模型，能在输入/输出端识别暴力仇恨、性内容、武器、毒品、自伤、犯罪策划等六类风险，支持 vLLM、HuggingFace、FastAPI 和 NeMo Guardrails 的部署。
查看详情

LLM模型评估与性能测试

llm-evaluation
sickn33/antigravity-awesome-skills
357
提供了一套全面的大型语言模型（LLM）评估框架。内容涵盖自动化指标（如BLEU、ROUGE、BERTScore）、人工评估维度以及使用LLM作为裁判的先进方法。适用于系统性地衡量模型性能、对比不同Prompt或模型，确保AI应用的可靠性和可部署性。
查看详情

多智能体MLOps管道编排

machine-learning-ops-ml-pipeline
sickn33/antigravity-awesome-skills
486
本技能旨在指导设计和实现一个完整的、生产级别的机器学习（ML）管道。它采用多智能体编排工作流，系统地覆盖了ML整个生命周期：包括数据摄取、特征工程、模型训练、代码优化和生产部署（MLOps），确保系统具备高可重复性、可监控性和高扩展性。
查看详情

Mistral AI多环境配置

mistral-multi-env-setup
jeremylongshore/claude-code-plugins-plus-skills
297
本技能提供了一套完整的框架，用于配置Mistral AI在开发、预发布和生产等不同环境中的设置。它负责管理不同环境的API密钥、模型、速率限制和功能开关，确保AI服务在复杂的多阶段部署流程中具备高安全性和隔离性。
查看详情
上一页1234567下一页
语言
简体中文
English