Router 是一个新工具,提供一个单一 API 端点,根据每个请求的性能阈值自动选择成本最低的模型。它利用 Ramp 的财务可见性来支持其优化。
Latest
Ramp 推出 Router:单一 API 自动选择最低成本模型
Router by Ramp 发布,为 AI 开发者提供单一 API 端点,可根据性能阈值自动将请求路由到最低成本的模型,并借助 Ramp 的财务可见性优化支出。
- AI Infrastructure
- LLM Inference Optimization
- Startup Launch
Sources
Automation assists with selection and drafting. Every article retains its source links.