搜索:RouteLLM

共命中 2 条(服务端检索)
一篇读懂 LLM 推理的路由策略:模型路由与成本优化
不是每个请求都值得用旗舰模型:路由的三种形态(级联、训练 router、规则路由)、误路由的隐性成本、回退链设计与成本核算,一篇算清模型路由的账。
大模型 精选 · 原创 · 昨天 阅读 3·访客 3
智能体生态观察 · 第 28 篇|小模型跑智能体:开源模型的能力竞赛与可行性边界
智能体循环的每一步不必都用旗舰模型。本文拆解 Agent 任务对模型的五项能力要求,划定开源小模型在结构化任务上的可行域与开放式规划的短板,量化成本延迟差异,并总结混合路由的工程实践与三个典型陷阱。
智能体 精选 · 原创 · 昨天 阅读 2·访客 2