最危險的 AI 錯誤，常常不是看起來很荒謬的錯誤。
真正讓人容易中招的是：它語氣穩、格式漂亮、還會引用看似具體的數字。你把那段文字放進簡報或報告，直到有人追問來源，才發現裡面的案例、年份或百分比根本沒有查證過。
這篇不是要你不信任 AI，而是要建立一個工作者該有的驗證習慣。AI 可以幫你加速，但最後按下送出的人，仍然要知道哪些地方必須確認。
AI 最麻煩的地方，不是它會錯。
真正麻煩的是：它錯的時候，常常講得很順。
人很容易把「講得流暢」當成「講得正確」。但在 AI 身上，流暢度和正確率是兩回事。
為什麼 AI 會編造？
你不需要知道太多技術細節，只要先理解一件事：
語言模型是在根據前文預測「接下來最合理的字」。
所以當它生成一個人名、數字、引用、網址或法規條號時，它可能只是組合出「看起來像真的」文字。除非它有連到外部資料並正確查證，否則它不一定知道那個東西存不存在。
五種常見錯誤模式
1. 憑空捏造具體事實
越具體的資訊，越值得查。
例如：
- 統計數字
- 人名頭銜
- 書名
- 網址
- 引用來源
- 法規條號
2. 使用過時資訊
只要問題包含「最新」「目前」「現任」「今年」這類字，就要小心。
AI 可能用舊資料回答，而且語氣不會提醒你它可能過時。
3. 一本正經地算錯
數字計算、日期推算、單位換算，都可能出錯。
尤其金額、財務、比例、日期，請自己按一次計算機或回到原始資料確認。
4. 順著你的話講
如果你問：「為什麼 A 方案比 B 方案好？」
AI 很可能認真列出 A 比 B 好的理由，即使 B 其實更適合。
AI 很會配合你的問題方向，所以你要小心自己問題裡藏著預設立場。
5. 真假混合
這是很危險的一種。
一段回答裡九成正確，一成錯誤，而正確的部分會讓你放下戒心。
你驗證了前三個事實都對，不代表整段都可以直接用。
怎麼把關？
1. 具體事實回到原始來源
數字、引用、法規、判例、日期，用 AI 給的關鍵字去查原始來源。
不要只回頭問 AI：「你確定嗎？」
因為它可能繼續很有自信地確認錯誤答案。
2. 要求標註不確定性
你可以在指令裡加：
「不確定的部分請明確標出來。沒有把握就說不知道，不要自行補完。」
這不能讓錯誤歸零，但可以降低風險。
3. 反向提問
如果你擔心 AI 在附和你，可以換個方向問：
「請從反方角度說明，為什麼 B 方案可能比 A 方案好。」
如果它兩邊都能講得很順，代表最後判斷要回到你自己身上。
4. 請它自我標記弱點
收到重要輸出後，追問一句：
「這段回答裡，你最不確定、最值得我查證的是哪個部分？」
這是一個很實用的檢查動作。
驗證不是每件事都要逐字查
驗證責任不等於疑神疑鬼。
如果只是格式轉換、改寫潤飾、腦力激盪，原始內容由你提供，風險比較低。
驗證強度應該跟著錯誤成本走：
- 對外發布：高度驗證
- 影響決策：高度驗證
- 自己參考：檢查重點即可
- 腦力激盪：保留判斷，不必逐字查
一個簡單的驗證順序
遇到 AI 輸出時，可以照這個順序檢查：
- **先圈出具體事實。**人名、公司名、日期、數字、法規、引用、網址都算。
- **確認哪些會影響決策。**如果錯了會讓人做錯判斷，就優先查。
- **回到原始來源。**不要只讓 AI 自己說它有沒有錯。
- **把不確定處標出來。**如果暫時查不到，就不要寫成肯定句。
這樣做不會讓效率歸零。你只是把注意力放在最容易出事的位置。
本篇小練習
拿一份你最近請 AI 產出的內容，圈出所有「具體到可以查證」的資訊。
例如：
- 數字
- 名稱
- 日期
- 引用
- 來源
挑其中兩個，回到原始來源查證。
如果真的查到錯誤，恭喜你，這次的代價是免費的。下次就不一定了。
下一篇建議讀資訊安全：在你把更多背景交給 AI 之前，先知道哪些資料不能貼。
發佈留言