五层意图漏斗:在 100 毫秒内判断用户想干什么

智能体与编排 · 2026-05-10 · 7 分钟

关键词、语义检索与大模型逐层协作,让判断快,也让失败可解释。

园区场景的用户输入高度口语化,渠道还混杂:微信里是打字,大屏前是语音转写。要在 100 毫秒内判断"这句话想干什么",纯用大模型既慢又贵,纯规则又覆盖不住长尾。

不是二选一,而是五级瀑布

每一级都比上一级更贵、更准,能拦住的就不往下走:

分层的意义不只是快,而是让每一层的问题都变得可解释:命中了哪一层、分是怎么算出来的,都能复盘。

让阈值被数据驱动

多层阈值最容易出的问题是「拍脑袋定完就没人敢动」。所以做了一个影子模式:每次分类同时记录关键词、向量、大模型三路的结果,连同用户的隐式反馈(触发澄清 = 一次负反馈)一起落库,离线对比三路准确率,再回来调阈值。

阈值不该是魔数,应该是可以被数据推翻的假设。

上下文不是简单「带上一轮」

多轮对话里,「那边呢」这种省略句要继承上一轮的意图;但继承得太激进,又会把话题锁死。最终只在「槽位不完整 + 当前输入被判定为参数补充」时才启用继承,并配套三件事:槽位锁定(已收集的实体不再重新分类)、待完成意图恢复、意图漂移检测(发现用户已经换话题就标记出来,交给澄清节点)。

另一层是抗退化:输入先过口语归一和注入黑名单,避免规则被两句话绕过去。