• hapic

    各位佬请教一个实践问题:当 Agent 对接业务系统,通过业务接口获取批量多字段数据时,是否应当将接口返回的全部字段送入 LLM 处理?

    若采取字段裁剪、不完整透传给 LLM 的方案,下游各类工具在执行流程中(也是agent自主决定调用的),该如何获取自身依赖的目标参数?

    主楼
  • MangoStar

    我理解这类企业级Agent llm的作用只在理解用户意图,调用skill或tool,编排的作用。其他不参与,不应将skill或tool返回的数据再给到llm。理解浅薄,见谅

    #1
  • 科尼岛

    要靠编排,可以给模型schema但是绝对不能让模型自主决定怎么取数据

    #2
  • VibeKoder

    尽可能地只让模型处理业务数据,无关的不要给它,会增加噪声影响判断,不需要处理的字段后面要用的话,穿透一下就好了

    #3
  • 玉树临风美少年,揽镜自顾夜不眠

    其实还是workflow llm吗?

    #4
  • hapic

    穿透一下

    佬 ,是怎么穿透的,放上下文,放缓存吗

    #5
  • 路边一条狗

    说白了就是,筛选数据这一块,要不要强智力?脚本、小模型能不能干?

    #6
  • VibeKoder

    不放上下文啊,放在变量里面,llm处理完再拼起来就行了啊,上下文只放要llm处理的内容,具体怎么弄直接问ai就行,我也不清楚你的场景是打标还是做判断还是什么

    #7
  • xz-dev

    你这就是 MCP tool 的设计,我之前就是专门做 MCP tool 的。

    经验是:

    - mcp 返回的最好是 AI 可以使用参数或者默认参数过滤的

    - 如果可以,返回的内容最好是直接的文字内容而不是原始 json

    - 返回的无意义空格比如 json 里的格式化空格,请删除

    #8

发表回复

登录后回复