核心逻辑在于:并非所有任务都需要最昂贵的前沿模型。总结邮件、检索文档等基础工作完全可以交由开源模型或旧版专有模型处理,成本仅为顶级模型的一小部分。Snowflake和Palo Alto Networks等企业已向The Information证实,通过为特定任务替换更廉价的模型,实现了可观的成本节约。
这一趋势正在催生真实的商业回报。建筑公司McCarthy Building表示,通过Palantir的路由工具Evolve,其当季AI token使用量较去年同期减少了60%。Palantir自身也披露,在一个具体案例中,该工具通过将任务从OpenAI的GPT-5.1切换至更小的GPT-5.4 Nano模型,将计算成本压缩了97%。
OpenRouter的"自动路由器"根据用户对成本与质量的偏好(在0至10的刻度上自行设定)来决定调用哪个模型。数据显示,该路由器约三分之一的时间会选择谷歌相对廉价的Gemini 2.5 Flash Lite,而调用OpenAI更强大的GPT-5.5的比例仅约10%。OpenRouter的自动路由器底层由初创公司Not Diamond提供支持,后者专注于为AI编程智能体开发路由系统。