RAG 實作課・8–20 分
第 2 話・實驗一
把 Chunk 切壞！
斬！！
文件切錯，模型再強也救不了！
文件 5｜客戶退貨管理辦法
客戶於商品送達後七日內，可以提出退貨申請。
已啟用授權碼、依客戶需求製作之客製產品，以及因人為因素受損之商品，不適用一般退貨程序。
Chunk A客戶於商品送達後七日內，可以提出退貨申請。
Chunk B已啟用授權碼、依客戶需求製作之客製產品，以及因人為因素受損之商品，不適用一般退貨程序。
唰！
一段完整的規定，被切成了兩塊。
Q4｜員工提問客製商品收到五天後，
可以退貨嗎？
Chunk A客戶於商品送達後七日內，可以提出退貨申請。
Chunk A客戶於商品送達後七日內，可以提出退貨申請。
Chunk B已啟用授權碼、依客戶需求製作之客製產品，以及因人為因素受損之商品，不適用一般退貨程序。
Retriever
命中！
沒被找到的 Chunk B……💧
Retriever 只帶回了 Chunk A。
AI 看到的資料（Context）
Chunk A
客戶於商品送達後七日內，
可以提出退貨申請。
可以！
仍在七日內。
✦ 自信滿滿 ✦
錯！！
嗶——
正確：客製商品屬於例外，不適用一般退貨程序。
模型太笨了吧？
換 GPT 啦！
提示詞再寫好一點？
換更大的模型！
等一下！
喝！
AI 看到的資料（Context）
Chunk A
商品送達後七日內，可以提出退貨申請。
？例外規定……在哪裡？
沒有！
真正犯錯的……
不是模型。
真兇
✂️ 文件處理
把「需要一起看」的內容切散了
🗑️
Still Garbage Answer
還是垃圾答案
噗！
重新切：把要一起看的內容放在一起
Chunk A商品送達後七日內，可以提出退貨申請。
Chunk B已啟用授權碼、客製產品、人為受損之商品，不適用一般退貨程序。
Chunk｜退貨規定（完整知識單位）
退貨申請：商品送達後七日內可以提出申請。
例外：已啟用授權碼、客製商品、人為損壞，不適用一般退貨程序。
合體！
Q4 再跑一次！
不能走一般退貨！
客製商品屬於例外，就算在七日內也一樣。
正解！
Chunk 不是——
每 500 token 切一次
Chunk 是——
模型在回答問題時，
需要一起看到的一個完整意思。
覺醒！
切法圖鑑
其三
Markdown
Heading
依標題章節切
# 出差辦法
## 住宿上限
……商品送達後七日內，可以提出退貨申請。已啟用授權碼、依客戶需求製作之客製產品……
重疊區
Chunk 1
Chunk 2
Overlap：切頁時前後稍微重疊，避免一句重要內容剛好被切在兩邊。
本堂不爭 100 還是 200 tokens！
切對了……
就一定找得到嗎？
關鍵字搜尋KEYWORD
語意搜尋VECTOR
待續