AI 客服到底怎麼運作？拆開給你看——沒有魔法

2026-07-02 發佈・2026-07-02 更新

跟你說一個我幫店家做 AI 客服最常看到的表情：老闆聽到「AI」兩個字、眼神就飄了——覺得那是什麼黑魔法、很燒錢、自己一輩子搞不懂。

我今天把整台機器拆開放在桌上給你看。看完你會發現：每個零件你都看得懂、沒有一個是魔法。

零件一：那顆會講話的腦——是租來的

第一個零件、大型語言模型（LLM）、就是你平常聽到的 ChatGPT 那類東西。重點來了：這顆腦是現成的、租來的、開源的閉源的都有。它出廠就會講話、會應對、中文英文都通。

做 AI 客服不需要自己造腦——就像開手搖店不用自己種茶樹。所以「AI 好高科技我做不來」這個怕、第一關就可以放下：最難的那個零件、人家做好了。

問題來了：它會講話、但不知道你家的事

這顆租來的腦、聰明歸聰明、可是它不知道你家一次服務多少錢、不知道你週日有沒有開、不知道你的退換規則怎麼寫。

第一直覺：把你整理的資料——價目、規定、常見問答——全部塞給它、每次回答前叫它整份讀一遍。

行不通。你想像一個員工、客人每問一句、他就要把整疊資料從第一張翻到最後一張：翻到後面、前面講什麼忘了；每一張都要看過才敢回答、又慢；而且 AI 是按「讀多少字」算錢的、每問一句就重讀整份、錢包也受不了。

那用關鍵字搜尋（像 Ctrl+F）不就好了？也不行。你的規定寫的是「非瑕疵商品恕不退換」、客人問的是「用了不喜歡可以退嗎」——字完全對不上、關鍵字搜尋直接空手而回。客人從來不會照你的用詞問問題。

零件二：把你家的資料、畫成一張「地圖」

這就是我們真正動手做的部分、行話叫 RAG（檢索增強生成）。聽起來很唬人、拆開就兩步：

1. 把你家的資料切成一段一段——一條規則一張、一個問答一張、一個價目一張。
2. 把每一段變成「座標」、放上一張地圖。

「文字變座標」是關鍵那一下：意思相近的話、座標就靠近。「非瑕疵商品恕不退換」跟「用了不喜歡可以退嗎」、用字完全不同、但在這張地圖上、它們是鄰居。

所以客人隨便怎麼問、不用猜關鍵字——把他的問題也變成座標、看離哪幾段資料最近、就找到了。

但老實說一句、省得你之後覺得被騙：「量距離」只是第一步、不是全部。資料怎麼切段、哪幾段該排前面、座標畫得準不準——沒做好、地圖就畫歪了。畫地圖這件事、才是真正吃工夫、也是外行跟老手差最多的地方。

零件三：圖書館員負責找、員工負責講

最後一個零件、也是最多人搞混的地方。回答客人一句話、其實是兩個角色分工：

圖書館員（向量資料庫）拿著客人問題的座標、在地圖上量距離、把最近的三五段資料抽出來放桌上。它不會講話、它只會量距離。

會講話的員工（LLM、租來的那顆腦）拿起桌上這幾段、講成一句自然的人話回給客人。它不用背你家的資料、它只負責把找到的講清楚。

找的不講話、講話的不找。你聽過「AI 讀懂了你的心」——其實沒有。AI 沒有讀懂你、它只是量出：你問的話、跟哪段資料距離最近。

所以你該擔心的、根本不是 AI

拆完你會發現：這台機器裡沒有一個零件是魔法——腦是租的、圖書館員是量距離的、地圖是你家資料畫的。

但「不是魔法」不等於「隨便做做就會準」。真正決定你的 AI 客服好不好用的、是那張地圖畫得好不好：資料有沒有切乾淨、座標放得準不準、翻出來的是不是對的那幾段。這不是魔法、是工藝——跟做木工、配鑰匙一樣、同樣的料、老手跟外行做出來差很多。

所以你不是在挑「哪家的 AI 比較聰明」（那顆腦大家都租得到）、你是在挑誰能把你家的資料、畫成一張好地圖。

想看你家的常見問答、價目表變成「AI 翻得到的地圖」長什麼樣？丟一份給我、我畫一小塊給你看。先看再聊、不用先付錢。