软件下载帮助文档新闻资讯

Skill UI

浏览并发现 15857+ 精选技能

全部编程开发人工智能设计创意产品商业数据科学市场营销职场通用效率工具硬件工程语言学习

搜索 AWQ ，共找到 3 条记录

默认排序最新上传最多下载

AWQ 激活感知权重量化

awq-quantization

Orchestra-Research/AI-Research-SKILLs

AWQ 利用激活感知权重保护技术，将 7B-70B 模型压缩到 4-bit，在受限显存上保持精度并提升近 3 倍推理速度，可配合 vLLM、Marlin 等加速后端部署大模型。

本地大模型推理与部署专家

local-llm-expert

sickn33/antigravity-awesome-skills

该技能专精于本地大语言模型（LLM）的部署、推理和性能优化。涵盖Ollama、vLLM、llama.cpp等主流推理引擎，以及GGUF、EXL2等主流量化格式。帮助用户在本地硬件上安全、高效地运行先进模型，尤其侧重于隐私保护和离线应用部署。

CoreWeave GPU成本优化指南

coreweave-cost-tuning

jeremylongshore/claude-code-plugins-plus-skills

本指南提供了一套全面的策略，用于优化CoreWeave上的云GPU资源支出。它涵盖了从根据模型需求进行精细化资源配置（Right-sizing），到为开发环境实施从零扩展（Scale-to-Zero），以及利用量化技术（如AWQ）等多个维度，帮助用户在确保高性能的同时，实现AI/ML工作负载的最大化成本节约。

1

语言