
图中把候选总额分给不同来源,再按重复和有效长度回收预算,示例配额不是通用推荐值。
重排模型只允许处理一小批候选时,最简单的方案是把初排分数最高的若干条塞进去。但如果前面的条目都来自同一份文档的相邻切块,有限预算可能被相似内容占满,另一条检索路径找到的独立证据根本没有机会参与比较。
把预算从一个数字拆开
至少存在三种不同预算:候选条数、模型实际处理的输入长度,以及最终可以提供给回答器的证据长度。同样十条候选,短段落和超长文档的计算代价与信息覆盖可能完全不同,因此“只限条数”不一定能控制资源使用。
可以先把候选总数设为一个明确上限,再给单条输入长度和总批次长度设置约束。超长候选需要定位相关片段或分块,而不是悄悄把证据句截掉。最后进入回答上下文的内容,也不必等于所有参与重排的内容。
这些是系统约束,不是某个模型的最佳参数。上限取多少,应结合目标任务、设备与延迟预算评测,不能拿自设的数字当作线上容量结论。
来源配额保留不同发现路径
假设候选总预算为六条,来源 A 和 B 都有自己的排序。可以先让两边各提供三条,再按规则回收未用完名额。这样的配额只是为了说明一种设计:先保留来源机会,再让后续步骤做更细判断。
若 A 的前三条与 B 的某条其实是同一段文档,不能把重复项作为两份独立证据计数。可以用稳定文档标识、版本和片段位置去重,同时保留它被哪些路径找到的信息。去重后空出来的名额,再由候选池按既定策略补足。
不同来源分数尺度可能不同,直接把原始分数混在一起排序,可能让数值范围大的来源占满预算。配额、排名融合或经过验证的校准各有用途,但不能在没有比较口径的情况下,把最高分解释成全局最相关。

多样性不能变成强行平均
来源配额只是保护发现机会,不保证每个来源都值得保留。某个来源没有有效结果时,空名额可以转给其他来源,而不是拿无关条目凑数。也不要为了每个类别看起来均衡,挤掉已经确认关键的证据。
所谓多样性,还要看任务需要的是不同事实、不同立场还是不同版本。有些问题只需要同一版本的明确说明,混入旧版反而造成冲突。有效性过滤、版本限制与权限检查应先有清楚边界,再谈相关性和多样性。
对于同一长文档的多个片段,可以保留互补段落,也可以在足够上下文下合并展示。不能一律只留一个片段,因为答案有时分散在多个位置;也不能无条件保留全部,因为它们可能只是重复背景。
记录证据为什么被挤出去
调预算时,最好区分候选在何处消失:首轮未召回、无权限或过期被过滤、去重合并、配额截断、长度截断,还是重排分数靠后。若只观察最终列表,很难知道真正瓶颈在哪里。
这份阶段记录可以用来构造反例。假设支持答案的段落在来源 B 排第四,当前配额只给三条,即使重排模型完美也看不到它。此时应检查配额设计与候选覆盖,而不是把责任全部交给重排模型。
反过来,如果扩大候选预算后关键证据仍排在后面,应检查评分和输入适配。候选预算与排序能力要分开评测,避免一个参数掩盖另一个阶段的问题。
用固定样本比较策略
准备一组带证据位置标注的问题,在相同输入和资源口径下比较全局截断、分来源配额及去重补位。观察证据是否进入候选、是否进入最终上下文,并记录实际耗时和长度,不能只数返回了几条。
小规模列表模拟只能验证规则是否实现正确,不能证明某个配额提升真实问答效果。真实收益仍依赖语料、来源质量和任务分布,应把实验范围写清。
当两条检索路径同时找到同一段关键材料时,你会把它算作两个候选名额,还是一个候选加两份来源信息?这样的选择会怎样改变剩余证据的机会?