AI Agent 導入

AI agent 需要訓練嗎?

先看解答

多半不用自己訓練模型,因為 ChatGPT、Claude 這些模型在你拿到之前就已經訓練好了。大家平常說的「訓練 agent」,實際上做的是三件事:把指示和判斷標準寫清楚、把公司的資料接給它查,再拿真實案例測試,哪裡錯了就回頭改。至於真的拿資料去調整模型的微調(fine-tuning),要等指示和資料都做好、測過還是不夠才考慮,OpenAI 也已經不再開放新使用者使用它的微調平台。

大家說的訓練,實際上在做什麼

例如一家加工廠想讓 agent 讀詢價信的圖面、判斷缺什麼,要讓它上手,做的事情大概是這樣:

要做的事在這個例子裡是誰要花時間
把指示和判斷標準寫清楚把「圖面算不算齊」寫成清單,例如公差等級、材質、數量和表面處理;要和別的零件配合的尺寸要個別標最懂這件事的業務助理和工程師
把資料接給它查把舊圖面和過去的追問信整理到它查得到管資料和系統的人
拿真實案例測試和修改用上個月的二十封信試跑,錯的地方回頭補進指示業務助理和工程師

這三件事的寫法,可以分別看提示詞怎麼寫、知識庫要整理到什麼程度和 AI agent 專案怎麼驗收。

什麼時候才要考慮微調

微調是把一批範例,也就是輸入什麼、該輸出什麼,交給模型,讓它更擅長某一種工作。OpenAI 文件的順序是先測試、再調整提示詞,測過還是達不到要求才考慮微調,也寫到光是調整提示詞可能就夠了。

所以如果廠商的提案第一步就是「替你訓練一個專屬模型」,我會先問他,為什麼寫指示和接資料還不夠。像上面那家工廠的圖面判斷,是標準還沒寫清楚的問題,換一個調整過的模型也不會讓標準自己變清楚。

你的資料會被拿去訓練模型嗎

這要看你用的方案,和上面講的訓練是兩回事。OpenAI 的頁面寫,個人方案(Free、Plus、Pro)可能會用你的內容訓練模型,你可以在設定裡關掉;ChatGPT Business、Enterprise 和 API 則預設不會。這一頁沒有提到 Go 方案,用 Go 的話要另外確認。

Anthropic 的個人方案(Free、Pro、Max)要看你有沒有同意,被標記做安全審查的對話則可能用於訓練偵測濫用的模型;Claude for Work 和 API 則預設不會。不過兩家都寫到,按讚或倒讚這類意見回饋,可能讓那段對話被拿去使用,所以處理客戶資料時也要留意。

所以放進客戶資料之前,要先確認同事用的是哪一種帳號,這部分可以看 Shadow AI 是什麼。agent 整體是怎麼運作的,則整理在 AI agent 是什麼。

參考來源

  1. OpenAI:Model optimization(evals 與 fine-tuning)(另開分頁)
  2. OpenAI:How your data is used to improve model performance(另開分頁)
  3. Anthropic:Is my data used for model training?(個人方案)(另開分頁)
  4. Anthropic:Is my data used for model training?(商用方案)(另開分頁)
回到AI Agent 導入