下载

Skill UI

浏览并发现 11321+ 精选技能

全部编程开发人工智能设计创意产品商业数据科学市场营销职场通用效率工具硬件工程语言学习

搜索推理API ，共找到 33 条记录

默认排序最新上传最多下载

使用Together AI进行模型推理

together-hello-world

jeremylongshore/claude-code-plugins-plus-skills

本技能是关于如何使用Together AI的OpenAI兼容API执行各种AI推理任务的教程。内容详细涵盖了包括文本聊天补全、流式输出、图像生成和向量嵌入等核心功能。它适用于需要测试开源模型、比较不同大型语言模型（如Llama、Mixtral）性能，或将生成式AI功能集成到应用中的开发者。

Together AI SDK安装与API配置

together-install-auth

jeremylongshore/claude-code-plugins-plus-skills

本指南详细介绍了Together AI SDK的安装和认证流程。它涵盖了使用Python和Node.js两种环境进行SDK的安装，配置必要的API密钥，并验证与OpenAI兼容API的连接。适用于需要进行开源模型推理和精调的开发者。

Together AI性能调优指南

together-performance-tuning

jeremylongshore/claude-code-plugins-plus-skills

本技能提供关于使用Together AI平台进行性能调优、推理和模型微调的综合指南。它支持与Together AI的OpenAI兼容API工作，涵盖模型部署、使用多种开源模型（如Llama, Mixtral）以及实现高效、低成本的批量推理最佳实践。

Together AI SDK开发模式

together-sdk-patterns

jeremylongshore/claude-code-plugins-plus-skills

本技能包提供了使用Together AI API的生产级开发模式。它包括单例客户端管理、带重试逻辑的错误封装和请求构建器，用于处理所有LLM推理任务。内容涵盖了OpenAI兼容API的使用，确保开发者能够构建稳定、高性能的AI应用，并支持聊天、嵌入和微调等多种场景。

Together AI 安全基础指南

together-security-basics

jeremylongshore/claude-code-plugins-plus-skills

本技能详细介绍了使用Together AI API进行推理、微调和部署时的安全最佳实践。涵盖了API密钥安全管理、Webhook签名验证、输入数据验证和数据脱敏技术。它帮助开发者识别和减轻API使用过程中的常见安全漏洞，确保生产系统的健壮性和数据隐私性。

Together AI迁移与API指南

together-upgrade-migration

jeremylongshore/claude-code-plugins-plus-skills

本指南旨在为使用Together AI平台的开发者提供全面的API迁移和升级策略。内容详细覆盖了模型ID弃用、微调/聊天补全的API模式变更，帮助用户确保其应用程序在推理和模型部署过程中保持高可用性和兼容性。

AI API成本安全防护

sickn33/antigravity-awesome-skills

这是一个针对付费AI或推理API的成本管理纪律。它将费用视为第三个复杂维度，强制要求为每次调用制定成本合同（包括单次最大调用次数、单次最大预算和每日最大预算）。它指导开发者如何为循环、重试和并发调用设置明确的边界，确保即使代码出现错误，也不会发生超出预期的巨额费用。

通过API检测模型提取攻击

detecting-model-extraction-attacks

mukul975/Anthropic-Cybersecurity-Skills

本技能提供一套完整的框架，用于检测模型窃取、成员推断和模型反演等高级AI攻击。其核心在于监测推理API的查询模式、分析置信度暴露，并实施防御机制，以保护模型知识产权和训练数据隐私。

本地GGUF大型语言模型部署

huggingface-local-models

sickn33/antigravity-awesome-skills

本技能提供了一套完整的指南，用于利用 llama.cpp 框架和 GGUF 格式在本地部署大型语言模型（LLMs）。它涵盖了在 Hugging Face Hub 搜索模型、选择最佳量化配置，以及运行支持 CPU、Mac Metal、CUDA 和 ROCm 等多种硬件后端的本地推理服务器。支持实现兼容 OpenAI 格式的 API 接口，适用于需要离线、私密部署的大模型推理场景。

语言