LLM Key Pool - 分层轮询多平台API Key管理
任务目标
- 本Skill用于:多平台API Key智能管理,实现分层轮询、跨层切换和自动故障转移
- 能力包含:分层配置管理、自动轮询、跨层切换、429错误智能处理、统一OpenAI兼容接口
- 触发条件:当Agent需要稳定调用大模型API且面临速率限制或单点故障风险时
前置准备
依赖安装
SKILL依赖以下Python包:
pyyaml>=6.0.0
配置文件准备
在使用前需要创建配置文件 llm_config.yaml,支持分层配置:
- 主力层(primary):高额度平台(阿里云百炼、智谱AI)
- 每日回血层(daily):每日刷新平台(火山引擎、Google AI Studio)
- 兜底层(fallback):开源/聚合平台(硅基流动、OpenRouter等)
配置文件格式见 references/config_format.md
支持的AI平台及配置方法见
[Description truncada. Veja o README completo no GitHub.]