為什麼規則寫越多,AI 客服反而越笨?
(技術上:人設=系統提示詞 system prompt,業界做法是幾百 token 的核心指令集;資料側= RAG 知識庫檢索;底線=防幻覺護欄+轉真人。temperature 也不是越低越準。)
不是。是多綁它一條繩子。
我們幫店家做 AI 客服。有一隻機器人,一開始餵給它一萬多字的規定、四十三條 SOP——什麼情況講什麼話、遇到誰要怎麼應對,寫得密密麻麻,想說這樣最保險。
結果它變成一個很奇怪的員工:客人隨便問一句,它噴一大串;問東答西;每一句話都要先自我介紹一次。規定寫越細,它表現越怪。
後來怎麼修好的?不是再加規定,是搬家——把規定砍到剩一頁,被砍掉的那些料,全部搬去「它翻得到的地方」。它馬上就正常了。
你把 AI 想成「人」,這件事一點都不奇怪。
它不是白紙,是「已經訓練好、有自己個性的員工」
很多人以為 AI 是一張白紙,你寫多少規則、它就多聽話。
錯了。你租來的這顆大腦(大型語言模型),來上班之前就已經被訓練好了——它本來就會講話、會應對、有自己一套做事的方式。它是已經出師的員工,不是白紙。
你在它上工第一天,丟一本一萬多字的員工手冊叫它背熟,要求它每講一句話之前,都先把四十三條規定在腦子裡對過一遍——
換成人,你也結巴。
你以為每加一條規則,它會多聽話一分——不是。是多綁它一條繩子。綁到最後,它原本會的東西也不會了。
教新員工上工,其實只要三樣東西
那本工具書怎麼整理、為什麼會翻錯頁,〈為什麼有的 AI 客服會亂講話〉那篇整篇在講,這裡不重複。這篇只講被多數人忽略的另一半——規則。
我們自己踩過的三個坑
第一個坑:規定寫太細,它每句話都在「守規矩」,忘了講人話
一萬多字塞進腦袋,它每次開口前都在對規則,回答又長又硬、答非所問。砍到剩一頁短介紹,把料搬去工具書,講話就正常了。
第二個坑:要它「先判斷、再行動」的規則,規則一多就失靈
我們寫過一條「只有第一次對話要自我介紹」。聽起來很合理吧?但這條規則要它每次開口前先判斷「這算不算第一次」——腦袋裡同時塞著四十幾條規定,這個判斷常常失手,結果每句都自介。罵它沒用、把規則寫更兇也沒用——最後我們把規則改成不用判斷的版本:「永遠不要自我介紹」,一次解決。規則治不了的病,改設計。
第三個坑:以為「控制旋鈕」轉緊一點,它就會更乖
它有一顆「嚴謹度」旋鈕(技術上叫 temperature)。我們想說轉到最緊、它應該會更精準——實測反而更糟:它變得畏畏縮縮,連該報的價都不敢報。跟人一樣,你把一個員工盯到死,他不會變精準,他會變得什麼都不敢講。想用「鎖更緊」解決問題,通常只是換來另一個問題。
✕ 越調越笨的做法
- 一萬多字規定要它背熟、每句話對一遍
- 出包就再加一條規則,越加越厚
- 塞一堆「要它先判斷再行動」的規則
- 以為嚴謹度旋鈕轉緊=更聽話
✓ 我們踩坑後的做法
- 人設一頁講完,把決定權還給它
- 料全部進工具書,讓它用翻的
- 規則治不了的病,改設計不加規則
- 規則只寫底線,幾條就好
「那規則都不用寫了嗎?」
要寫。但規則只寫底線,不寫百科:
- 不知道就轉真人,不准掰。
- 報價只准照工具書,不准自己算。
- 店家沒承諾的事,不准替店家承諾。
就這種等級的,幾條就好。剩下的料——價格、規格、售後——全部進工具書,讓它用翻的。
不用懂技術,三個問題看穿你的 AI 客服有沒有做對
- 餵給它的「人設規定」,有沒有超過一頁?超過,多半塞錯地方了。
- 它出包的時候,你的廠商是再加一條規則,還是回頭找根因?前者是止痛藥,越吃越多。
- 你的廠商敢不敢跟你說「這條規則我建議拿掉」?只會照單全收幫你加規則的,不是在調機器人,是在哄你。
AI 客服不是「規則寫好寫滿」就乖的東西。它是一個已經出師的員工——你要做的不是把它綁死,是給它一頁介紹、一本翻得到的工具書、一條不能踩的底線,然後放它去做它本來就會的事。
把規則越寫越厚的人很多,知道該砍哪裡的人很少。我們是踩過坑才知道的——這就是我在賣的東西。
你的 AI 客服越調越怪?把你現在餵給它的規則(提示詞)丟給我看,我直接告訴你哪幾條在害它變笨。先看再聊,不用先付錢。
加 LINE 跟我說你的狀況 →為什麼規則寫越多,AI 客服反而越笨?
那規則都不用寫嗎?要寫什麼?
我的 AI 客服一直重複自我介紹、或一次噴一大串,怎麼辦?
AI 客服出錯時,該加規則還是該找根因?
🐾 bubunini = 我家兩隻貓 咘咘 & 呢呢 | 徐子凌(Austin)· 江湖貨郎