下载

Skill UI

浏览并发现 10574+ 精选技能

全部编程开发人工智能设计创意产品商业数据科学市场营销职场通用效率工具硬件工程语言学习

搜索 8位，共找到 2 条记录

默认排序最新上传最多下载

长上下文扩展技术

Orchestra-Research/AI-Research-SKILLs

通过 RoPE、YaRN、ALiBi 和位置插值等技术扩展 transformer 的上下文窗口，便于处理 32k-128k+ 令牌长文档、延长预训练模型的上下文能力，并实现更高效的位置编码与外推策略。

LLM 量化优化工具

quantizing-models-bitsandbytes

Orchestra-Research/AI-Research-SKILLs

使用 bitsandbytes 将 HuggingFace 大模型量化到 8 位或 4 位，显存降低 50%-75%，并兼容 QLoRA 以及 8 位优化器，适合显存受限时快速部署与训练。

1

语言