RAG 實作課・47–57 分
第 5 話・實驗四
找到 ≠ 找對!
選拔!
Retriever × Reranker:先找,再挑一次
第一輪:找到十段內容
#1
#2
#3
#4
#5
#6
#7
#8
#9
#10
全部送給大型語言模型,好不好?
未必!
↑ 重要的那段被埋住了!
埋!
① Context 會變長
② 雜訊增加
③ 成本增加
④ 重要內容可能被埋掉
塞越多,不一定越好。
Retriever|斥候
十萬筆裡,
先快速找 20 筆。
重速度 ⚡
咻!
Reranker|鑑定師
這 20 筆裡,再仔細挑
最值得看的 5 筆。
重精度 🎯
凝視……
先求快,再求準。
100,000全部文件片段
Retriever
20候選
Reranker
5精選
LLM
Answer回答
十萬 → 20 → 5 → 答案
Q5|題目東京住宿一晚 7,200 元,可以報帳嗎?
▶ 全班投票!
①2026/7 起,日本一般地區住宿上限每晚 6,500 元。
②客服 FAQ:東西不想要了,可以退嗎?
③東京、大阪等指定高費用城市,上限每晚 7,500 元。
④修訂通知:其他規定不變。
⑤高費用城市須經主管事前核准;未核准者以一般標準核銷。
哪三段最值得送給模型?
①2026/7 起,日本一般地區住宿上限每晚 6,500 元。1
③東京、大阪等指定高費用城市,上限每晚 7,500 元。2
⑤高費用城市須經主管事前核准;未核准者以一般標準核銷。3
②④ 淘汰:跟這題沒有直接關係
三段一起看,才答得出來
7,200 元 > 一般標準 6,500 元
東京是高費用城市,上限 7,500 元
但高費用城市需要主管事前核准
有事前核准 → 7,200 元可以報
沒有核准 → 以一般標準核銷
這就是 Reranking。