运营 · 高级

已验证

自动化验证

  • 已通过全部自动化关卡:结构校验、唯一性、HTTPS 与来源链接可访问、提示注入与安全扫描、审批步骤规则。
  • 未记录起草模型。
  • 第二模型审核:deepseek-v4-pro(无严重或高危问题)。
  • 简体中文译文:google/gemini-4-argon,由 openai/gpt-5.5 审核。
  • 验证于 。
  • 仅经自动化检查和 AI 审核,未经人工审核。
验证如何运作

基于遥测追踪优化多模型路由

分析提示词日志与延迟指标,推荐高性价比的模型路由规则

在 BotBento 中使用 MarkdownEnglish

打开 BotBento。请将提示词粘贴到 Bot 中;不含任何预设配置。

  1. 按计划触发每周遥测审查
  2. 然后分析提示词追踪与成本
  3. 结果提交路由规则拉取请求

该 Bot 会检查推理网关的遥测追踪和查询日志,对常见的提示词原型进行聚类,并评估候选模型,以在成本、延迟和准确性之间取得平衡。它会起草路由策略和缓存配置变更,从而优化自托管和云服务提供商之间的资源利用率。

起步提示词

BotBento推荐
查询网关遥测数据库,提取跨活跃服务提供商的样本提示词追踪、token 用量和响应延迟。按任务复杂度对请求进行分组,并根据标准质量检查测试候选回退模型。当识别出能够维持可接受质量阈值的更低成本或更快速的替代方案时,起草更新后的路由配置文件。在 GitHub 上创建拉取请求或将任何路由更新应用到生产网关环境之前,始终等待人工批准。