软件下载帮助文档新闻资讯

Skill UI

浏览并发现 16567+ 精选技能

全部编程开发人工智能设计创意产品商业数据科学市场营销职场通用效率工具硬件工程语言学习

搜索模型压缩，共找到 10 条记录

默认排序最新上传最多下载

AWQ 激活感知权重量化

awq-quantization

Orchestra-Research/AI-Research-SKILLs

AWQ 利用激活感知权重保护技术，将 7B-70B 模型压缩到 4-bit，在受限显存上保持精度并提升近 3 倍推理速度，可配合 vLLM、Marlin 等加速后端部署大模型。

GGUF量化：高效大模型推理

gguf-quantization

Orchestra-Research/AI-Research-SKILLs

本指南深入介绍GGUF格式和模型量化技术，旨在实现大语言模型（LLM）在消费级硬件上的高效推理。通过采用GGUF标准格式和K-quant方法进行模型压缩，可以显著降低内存和硬件要求，使开发者能够在Apple Silicon、CPU或边缘设备上部署高性能AI应用。

GPTQ LLM 量化指南

Orchestra-Research/AI-Research-SKILLs

GPTQ 提供后训练 4 位量化，可在 RTX 4090/3090 等消费级 GPU 上将大模型压缩至 1/4 内存并加速推理，同时维持低于 2% 的困惑度损失，适合部署和 QLoRA 微调。

知识蒸馏：大模型压缩

knowledge-distillation

Orchestra-Research/AI-Research-SKILLs

知识蒸馏（KD）是一种核心的AI模型压缩技术。它旨在将性能强大的大型语言模型（Teacher）的知识，高效地转移给更小、更易于部署的学生模型（Student）。这使得开发者能够在不损失关键性能的前提下，大幅降低推理成本，实现将前沿大模型能力落地到实际应用场景。

LLM模型剪枝实用指南

Orchestra-Research/AI-Research-SKILLs

通过 Wanda、SparseGPT 与 N:M 结构化剪枝，快速压缩大语言模型，提升稀疏度与推理速度，无需再训练即可部署在移动或边缘硬件。

LLM提示优化

optimizing-prompts

jeremylongshore/claude-code-plugins-plus-skills

分析并简化提示词，减少冗余、压缩字数、提升指令明确性，让使用大模型时成本更低、响应更快、输出更清晰，适合希望优化提示以控制费用或提升效果的场景。

机器学习训练数据安全管理

vastai-data-handling

jeremylongshore/claude-code-plugins-plus-skills

本指南提供了在云端GPU实例（如Vast.ai）上安全管理训练数据和模型工件的完整流程。它涵盖了数据传输（SCP、压缩、云存储）、AES-256加密实现、模型检查点到S3的持久化，以及实例销毁前的安全数据清理，确保了整个机器学习项目的合规性和数据完整性。

Cohere API性能调优指南

cohere-performance-tuning

jeremylongshore/claude-code-plugins-plus-skills

本指南提供全面的Cohere API v2性能优化策略。旨在帮助用户优化Chat、Embed和Rerank等核心API的使用效率，显著提高API吞吐量、降低延迟和管理成本。核心技术包括根据延迟预算选择最佳模型、实现流式传输（Streaming）以提升用户体验、高效批量嵌入（Batching）处理、向量压缩以及部署缓存机制。

ACL学术论文写作风格指南

acl-writing-style

brycewang-stanford/Awesome-Journal-Skills

本指南旨在帮助作者修改自然语言处理（NLP）和计算语言学论文，使其符合ACL等顶级会议的学术要求。核心在于强调任务导向、论证的严谨性、在大型语言模型（LLM）时代限定和量化技术贡献，并指导如何进行结构性压缩和提升学术说服力。

议会多模型外部评审

council-multi-model

在议会工作流生成综合草案后，可选添加一次外部 Codex 批评性评审。适用于高影响、模糊的决策，通过独立模型尝试打破共识。发送压缩评审包前需获得用户明确同意，如实标注跨提供商或同提供商关系，外部调用在沙箱中执行，不可用时标记评审缺失。

1

语言