技術深讀版——引擎拆開、零件攤開。
這頁是寫給同行、工程師、想自己動手的人。如果你只想知道 AI 客服好不好用、多少錢,看〈怎麼運作〉就夠了——不讀這頁,完全不影響你開店用它。
整套沒有黑科技:資料切片 → 標意思(Embedding) → 進向量庫 → 檢索 → 拼小抄給 LLM 回答——行話叫 RAG。零件全部開源、GitHub 都查得到,下面逐一列出。
「先查資料再回答」,拆成五步看。
把店的資料做成索引卡,客人一問只抽最相關那幾張,它才答得準、又不亂掰。整套工具全部免費、全部開源:
切片Chunking
你的價目、服務項目、預約規則、回話習慣,剪成一片一片的小卡。
幫每張卡標「意思」Embedding
電腦看不懂文字,得先幫每張小卡標上「意思」——意思越像的卡,標記就越接近。這樣客人一問,才找得到最像那幾張。(用哪個免費開源工具,下面零件表全講。)
進圖書館存起來、能秒查 免費
所有小卡照「意思」排好書架、編好目錄,客人一問就能秒撈最相關那幾張。料還少的時候,用最簡單的方式就夠了(我現在就這樣);料變大,再升級到專用的向量資料庫——pgvector、Weaviate 這些一樣不用錢。
客人一問,秒撈最像的檢索
客人的問題進來,也照樣標上「意思」,去書架上撈出最像的那幾張——再挑出最準的,準備回答。
拼成小抄組合
把挑出的小卡跟問題拼成一張小抄,數位店員照著小抄回答——這就是它「有依據才回」的原因。
📖 RAG 不是我發明的——這套「先查資料再回答」的架構,是 Facebook AI 研究院(現在的 Meta AI)在 2020 年提出(Lewis 等人,NeurIPS 2020)、現在企業導入 AI 的標準做法。我只是照這套做,沒有自己發明新招。
我用哪些零件,全部列在下面。
具體是哪些零件?每個都查得到、都免費開源,我現在用哪些、還沒上哪些,標得清清楚楚:
🔍 不信?自己查。這些全是公開的開源專案,GitHub 上都翻得到——我講的不是隨口說說:
你真的可以自己做。
零件都列在上面了,教學網路上也一大堆。你想挑戰自己架一套——真的行。卡住了、或想確認方向對不對,直接問我,不用錢。
拿這頁的任何一個零件來問都行——加 LINE 聊 →