大模型没读过你公司的文档,RAG 凭什么让它对答如流?
先想象一个场景。你想给团队做一个内部问答助手,新人问「差旅报销怎么填」「这个老接口的参数含义是什么」,助手张口就答。直接问大模型?它从没读过你公司的制度文档,上下文窗口也装不下几百份文件,只能道歉或瞎编。隔壁团队的助手却对答如流。
先想象一个场景。你想给团队做一个内部问答助手,新人问「差旅报销怎么填」「这个老接口的参数含义是什么」,助手张口就答。直接问大模型?它从没读过你公司的制度文档,上下文窗口也装不下几百份文件,只能道歉或瞎编。隔壁团队的助手却对答如流。