LiteLLM Blog·· 4 天前AI 评分60
LiteLLM 将 NVIDIA NeMo Switchyard 阶段路由器接入为自动路由策略
Tool-Aware Model Routing for Coding Agents with NVIDIA NeMo Switchyard
AI 导读
LiteLLM 把 NVIDIA NeMo Switchyard 的阶段路由器作为自动路由策略上线,按智能体的工具调用轨迹而非提示词决定每一轮用高效模型还是强模型。
来源:LiteLLM Blog · docs.litellm.ai