随着企业AI使用成本持续攀升,一类名为"模型路由器"的技术正迅速从边缘工具走向主流。这类系统能够根据任务复杂程度自动调配最合适的AI模型,在不显著牺牲质量的前提下大幅压缩开支,正在吸引从初创公司到大型企业的广泛关注。

核心逻辑在于:并非所有任务都需要最昂贵的前沿模型。总结邮件、检索文档等基础工作完全可以交由开源模型或旧版专有模型处理,成本仅为顶级模型的一小部分。Snowflake和Palo Alto Networks等企业已向The Information证实,通过为特定任务替换更廉价的模型,实现了可观的成本节约。

这一趋势正在催生真实的商业回报。建筑公司McCarthy Building表示,通过Palantir的路由工具Evolve,其当季AI token使用量较去年同期减少了60%。Palantir自身也披露,在一个具体案例中,该工具通过将任务从OpenAI的GPT-5.1切换至更小的GPT-5.4 Nano模型,将计算成本压缩了97%。

OpenRouter的"自动路由器"根据用户对成本与质量的偏好(在0至10的刻度上自行设定)来决定调用哪个模型。数据显示,该路由器约三分之一的时间会选择谷歌相对廉价的Gemini 2.5 Flash Lite,而调用OpenAI更强大的GPT-5.5的比例仅约10%。OpenRouter的自动路由器底层由初创公司Not Diamond提供支持,后者专注于为AI编程智能体开发路由系统。
随着企业AI使用成本持续攀升,一类名为"模型路由器"的技术正迅速从边缘工具走向主流。这类系统能够根据任务复杂程度自动调配最合适的AI模型,在不显著牺牲质量的前提下大幅压缩开支,正在吸引从初创公司到大型企业的广泛关注。核心逻辑在于:并非所有任务都需要最昂贵的前沿模型。总结邮件、检索文档等基础工作完全可以交由开源模型或旧版专有模型处理,成本仅为顶级模型的一小部分。Snowflake和Palo Alto Networks等企业已向The Information证实,通过为特定任务替换更廉价的模型,实现了可观的成本节约。这一趋势正在催生真实的商业回报。建筑公司McCarthy Building表示,通过Palantir的路由工具Evolve,其当季AI token使用量较去年同期减少了60%。Palantir自身也披露,在一个具体案例中,该工具通过将任务从OpenAI的GPT-5.1切换至更小的GPT-5.4 Nano模型,将计算成本压缩了97%。OpenRouter的"自动路由器"根据用户对成本与质量的偏好(在0至10的刻度上自行设定)来决定调用哪个模型。数据显示,该路由器约三分之一的时间会选择谷歌相对廉价的Gemini 2.5 Flash Lite,而调用OpenAI更强大的GPT-5.5的比例仅约10%。OpenRouter的自动路由器底层由初创公司Not Diamond提供支持,后者专注于为AI编程智能体开发路由系统。
0 Comments ·0 Shares ·131 Views
叙旧 https://v.xu9.net