AI Agent 導入
AI agent 需要訓練嗎?
先看解答
多半不用自己訓練模型,因為 ChatGPT、Claude 這些模型在你拿到之前就已經訓練好了。大家平常說的「訓練 agent」,實際上做的是三件事:把指示和判斷標準寫清楚、把公司的資料接給它查,再拿真實案例測試,哪裡錯了就回頭改。至於真的拿資料去調整模型的微調(fine-tuning),要等指示和資料都做好、測過還是不夠才考慮,OpenAI 也已經不再開放新使用者使用它的微調平台。
大家說的訓練,實際上在做什麼
例如一家加工廠想讓 agent 讀詢價信的圖面、判斷缺什麼,要讓它上手,做的事情大概是這樣:
| 要做的事 | 在這個例子裡是 | 誰要花時間 |
|---|---|---|
| 把指示和判斷標準寫清楚 | 把「圖面算不算齊」寫成清單,例如公差等級、材質、數量和表面處理;要和別的零件配合的尺寸要個別標 | 最懂這件事的業務助理和工程師 |
| 把資料接給它查 | 把舊圖面和過去的追問信整理到它查得到 | 管資料和系統的人 |
| 拿真實案例測試和修改 | 用上個月的二十封信試跑,錯的地方回頭補進指示 | 業務助理和工程師 |
這三件事的寫法,可以分別看提示詞怎麼寫、知識庫要整理到什麼程度和 AI agent 專案怎麼驗收。
什麼時候才要考慮微調
微調是把一批範例,也就是輸入什麼、該輸出什麼,交給模型,讓它更擅長某一種工作。OpenAI 文件的順序是先測試、再調整提示詞,測過還是達不到要求才考慮微調,也寫到光是調整提示詞可能就夠了。
所以如果廠商的提案第一步就是「替你訓練一個專屬模型」,我會先問他,為什麼寫指示和接資料還不夠。像上面那家工廠的圖面判斷,是標準還沒寫清楚的問題,換一個調整過的模型也不會讓標準自己變清楚。
你的資料會被拿去訓練模型嗎
這要看你用的方案,和上面講的訓練是兩回事。OpenAI 的頁面寫,個人方案(Free、Plus、Pro)可能會用你的內容訓練模型,你可以在設定裡關掉;ChatGPT Business、Enterprise 和 API 則預設不會。這一頁沒有提到 Go 方案,用 Go 的話要另外確認。
Anthropic 的個人方案(Free、Pro、Max)要看你有沒有同意,被標記做安全審查的對話則可能用於訓練偵測濫用的模型;Claude for Work 和 API 則預設不會。不過兩家都寫到,按讚或倒讚這類意見回饋,可能讓那段對話被拿去使用,所以處理客戶資料時也要留意。
所以放進客戶資料之前,要先確認同事用的是哪一種帳號,這部分可以看 Shadow AI 是什麼。agent 整體是怎麼運作的,則整理在 AI agent 是什麼。