xiaoping`S学习笔记

模型路由
LLM模型路由与调度
Aigc-agent

如何准确的找到工具:万级 Skill 路由生产级方案

当 Skill 池膨胀到万级,模型上下文窗口装不下所有工具描述,"让 Agent 选对工具"就成了一个系统工程问题。本文梳理一套可落地的生产级方案——从 4 层漏斗架构、SkillRouter 论文实测数据、到置信度分流机制,完整走一遍。 一、核心矛盾:1 万个 Skill,模型看不过来 一个 MCP 工具的 schema 描述(名称 + 功能说明 + 参数定义)约 150 token。当 Skill 池达到 10,000 个,仅工具描述就需要约 150 万 token——远超当前主流模型的上下文窗口上限(128K…

2026年8月31日 172点热度 0人点赞 阅读全文
AI-study

LLM 模型多维度路由调度

智能摘要 本文全面梳理 LLM 模型路由系统的技术原理与工业实践。核心探讨五大技术路线:规则路由、分类器路由、级联推理、强化学习路由与生成式路由,每一条均有 FrugalGPT、RouteLLM 等顶会论文论证。详细对比火山引擎 Auto Mode 与 OpenRouter 两种代表性的跨模型/跨供应商路由方案,给出分层路由 + 质量-成本联合优化的最佳实践架构。 — 此摘要由AI生成仅供参考。 LLM 模型路由系统深度调研:原理、论文与工业实践 一、概述 随着大语言模型(LLM)的数量和种类爆发式增长,如何自动选…

2026年7月12日 388点热度 0人点赞 阅读全文
最新文档分类
  • AI-study
  • Aigc-agent
  • B端产品
  • 产品工具篇
  • 产品生命周期
  • 好好学习
  • 技术积累
  • 日常攻略
  • 行业信息
  • 随笔记录
最新 热点 随机
最新 热点 随机
做产品的三重境界:从定制交付到平台编排 Jev:当 AI 不再生成文本,而是做决策 从场景穷举到能力抽象:Agent 平台产品的设计方法 如何准确的找到工具:万级 Skill 路由生产级方案 SKILL.md 撰写最佳实践 MCP 协议研究:AI 上下文集成的架构与实践指南
从场景穷举到能力抽象:Agent 平台产品的设计方法Jev:当 AI 不再生成文本,而是做决策做产品的三重境界:从定制交付到平台编排
Axure 可用licsence 收集 l为什么很多saas企业级产品都熬不过第一年 2023:沉寂多时”的跨国平台的自我革新 一个人变成loser的5个标志-每日学习 中国的云计算 AGENT 落地为什么是编程agent?的核心矛盾:灵活性 vs 确定性
标签聚合
GPU部署 AI框架 多模态交互 AI模型 智能体交互 智能体分级 技术架构 模型训练方法 AI技术对比 大模型应用 大模型智能体 智能决策

COPYRIGHT © 2026 75live.com. ALL RIGHTS RESERVED.

Theme Kratos Made By Seaton Jiang