研究筆記 · FIELD NOTES

做 AI 客服，該自己刻還是用現成開源工具？

2026-06-28 發佈・2026-07-04 更新

徐子凌（Austin）江湖貨郎。做過英菲克的業務輔助 bot、交付過機車行「小青」LINE 客服、自架 Dify 客服 demo——這篇是我實際跑過一輪後的判斷，不是紙上談兵。

先給結論（想用 AI 快速了解？複製這段就夠）難的那幾層（聽懂需求、查知識庫、把關回答）用現成的開源工具（Dify／Chatwoot／FastGPT）；簡單的那層（接 LINE、該轉真人就轉）自己留著微調。整套自己刻會累死、品質會飄；整套外包會被綁死、不靈活。中間這條線怎麼抓，才是有沒有做過、踩過坑的差別。
（技術上：「難的中段」＝意圖理解＋RAG 知識庫檢索＋回覆把關；「膠水」＝通道接入 LINE Webhook 與轉真人 human handoff；全部自架、資料留在店家自己機器。）

厚重的引擎用現成的大廠工具，
薄薄的膠水自己寫。

一句話記住買 vs 自己做的那條線：貴的、難的別重造，薄的、要客製的自己留。

想做一個會自己回客人的 LINE 客服，很多人第一個念頭是「從零寫一個」。我實際研究了一輪市面上的工具後，結論很簡單：難的那幾層，別自己刻——用現成的；簡單的那層，自己留著反而靈活。

「AI 客服」到底是什麼？先想成開一家小吃店

一個會跑的 AI 客服，拆開來其實是一條流水線，跟開店一樣：

店門口（客人從哪進來）＝接 LINE 訊息的那層。
門口工讀生（一眼判斷：問路？還是奧客要找老闆？）＝先擋一手的規則。
點餐櫃台（聽懂要什麼、缺什麼還要追問）＝把需求一步步問清楚。
後廚的食譜本（回答要照的店規、型錄、報價）＝知識庫（業界叫 RAG）。
大廚（真正煮出回答的）＝背後的 AI 模型。
出餐前檢查（有沒有上錯菜）＝回覆前的把關。
喊「這桌叫店長」＝該轉真人的時候，把整理好的重點推給老闆。

麻煩的是「點餐櫃台 → 食譜本 → 大廚 → 出餐檢查」這中間四關，最花工。好消息是：這四關，外面早就有人做好整套了，而且免費、還每天有人在維護。

拆成三段就懂：哪段自己做、哪段用現成

📥

客人從 LINE 進來

接訊息、先擋一手

自己留（薄・靈活）

→

🍳

中段引擎

聽懂＋查知識庫＋生成＋把關

用現成大廠工具

→

🙋

該轉真人就轉

把重點推給老闆

自己留（薄・靈活）

中間那格最花工——但外面早做好整套、免費又有人維護；你只要顧好頭尾兩格，貼你的店微調。

有哪些開源工具？全世界幾萬人都在用的那幾個

我研究時把資料查到底（星數、最近更新、授權都用 GitHub 官方資料核對過，不是憑印象）。挑幾個對小生意最實用的：

Dify

可免費商用 · 裝你自己機器、資料不出門 · 全球最多人用（GitHub 14 萬+ 顆星）

把「聽懂需求、查知識庫、控制回答格式、把關」這中段全包了，還有圖形介面可以每個客戶快速改。做生意的引擎首選。

Chatwoot

可免費商用、不怕授權糾紛 · 能掛你自己的招牌 · 支援 LINE（GitHub 3 萬+ 顆星）

開源版的 Intercom／Zendesk——全通道收件匣＋機器人跟真人無縫交接＋完整對話歷史。支援 LINE。「轉真人」這塊它做得最專業。

FastGPT

可免費商用 · 繁體中文最順 · 裝你自己機器上（GitHub 2.8 萬+ 顆星）

中文團隊做的客服知識庫系統，繁體中文客服場景比誰都貼題，一樣能跑在自己機器上。

（還有 Flowise、Langflow、RAGFlow、AnythingLLM 等一票，授權與用途各有取捨，這裡先講最實戰的三個。）

那到底該怎麼抓？我的判斷：引擎用現成、膠水自己留

你要開的是「連鎖小吃店」——一個客戶一間店。那「大廚 + 食譜本」這種智能引擎，每間都自己重煉一次＝累死，而且每間品質會飄。這該用標準化的中央廚房（Dify／FastGPT），穩定又好維護。

但「店門口工讀生 + 喊店長」這種薄薄一層（接 LINE、擋一手、該轉人就推給老闆），每間照客戶微調、自己留著反而靈活，而且幾十行就搞定。

✕ 兩條看起來合理、其實會踩坑的路

整套從零自己刻 → 累死、每間品質會飄、社群升級也拿不到
整套丟一家外包 → 被綁死、不靈活、他一跑路你就完了

✓ 我的做法：引擎用現成、膠水自己留

厚重引擎用全世界在用的成熟工具（穩、免費、有人維護）
薄薄的膠水（接 LINE、轉真人）自己留、貼你的店微調
資料跑在你自己機器上、不外送、不綁約

我自己踩過最貴的坑：規則設越多，它為什麼反而越笨？

講個我走過的冤枉路。最早做的時候，我以為「規則給越多越聽話」，像在寫一疊罐頭回覆那樣，想把每種狀況都用規則框死。結果呢——又慢、又花錢，我花了一堆時間在調，它卻沒變好，反而越框越笨，常常自己打自己嘴巴。

後來我才想通：背後那顆 AI 本來就是訓練好的、它有腦、有基本判斷力。你該把它當成「請來的一個員工」——他有能力，只是還不知道你這間店在幹嘛、該做什麼。你要給他的是一本好用的工具書，不是一疊教條：

別用規則把他綁死。規則塞太多，會跟他自己的腦打架，他就變笨了。人格設定寫精簡就好（我自己抓在兩百行內），把「這句該不該說」的決定權還給他。
真正要下功夫的，是那本工具書——知識庫（RAG）要夠精準，讓他每次都翻得到對的那一頁、答得到點上。
他真的不知道的，就乾脆轉給真人，別硬凹；再把這次的缺口補進工具書，讓他一次比一次聰明。

把它當機器、拼命寫規則，它越來越笨；把它當有腦的員工、給一本好工具書，它才越來越聰明。

這個坑我們後來踩得更深、也修得更徹底——完整實錄寫成了一篇：〈為什麼規則寫越多，AI 客服反而越笨？〉

這也是為什麼前面我說「引擎用現成的就好」——那顆腦不用你重練，你真正要花心思的，是餵他什麼工具書、什麼時候放手讓他轉真人。

為什麼我堅持「跑在你自己的機器上」？

上面這些工具，我都選「能裝在你自己電腦上跑」的版本。原因只有一個：客人的對話、名單、報價，是你的生意命脈，不該送去別人的雲端。跑在你家機器上，資料不出門；而且沒有「每問一句就跳一次錢」的雲端帳單。

這就是我幫店家做 AI 客服的底層想法——用全世界都在用的成熟工具、裝在你自己這邊、把該客製的那層做到貼你的生意。不是黑箱、不綁死你、出問題有大社群一起修。

想聊聊你的店適不適合、大概要花多少？

加 LINE 跟我說你的狀況 →