觀測與指標
AI 回答 coverage 應該怎麼定義?
先看解答
AI 回答 coverage 至少要分成兩層:執行覆蓋是有效完成的觀測執行數相對於預定執行數;回答內容要點覆蓋是被判定為 complete 的適用要點數相對於已判定且適用的要點數。兩者分母不同,都是本文的工作定義而非平台共通標準;實作時還要分開記錄品牌提及、引用與無資料。若用 complete/已判定且適用要點表達比例,必須同列已判定數、全部適用要點數與 unknown 數;1 個 complete 加 99 個 unknown 不能寫成整體 100%。
先分清兩種 coverage
「執行覆蓋」問的是觀測工作有多少筆按預定條件完成,例如:
執行覆蓋 = 有效完成的觀測執行數 ÷ 預定執行數
它的分母是排程或計畫中的執行次數;執行失敗、逾時或沒有取得可判讀回答的狀態,不能默默當成有效回答。若報告排除某些執行,應列出排除條件與實際分母。
「回答內容要點覆蓋」問的則是回答有沒有處理題目指定的資訊要點,例如:
回答內容要點覆蓋 = complete 要點數 ÷ 已判定且適用的要點數
它的分母是回答內的適用要點,不是執行次數。partial、absent 與尚未判定要分開列出,不能用執行覆蓋的數字代替回答內容覆蓋。這兩種公式都是本文為了可複核而提出的工作方法,不是所有平台共同公布的指標規格。
因此,報告若呈現 complete ÷ 已判定且適用要點,必須同時列出已判定要點數、全部適用要點數與 unknown 數。這個比例只描述已審核部分;若 1 個要點是 complete、另外 99 個仍是 unknown,不能把它寫成整體 100%。
分母比漂亮的數字重要
例如,一組問題中有些執行失敗、有些回傳空結果、有些有回答但沒有品牌提及。若把所有情況直接放進同一個分母,讀者無法知道百分比代表回答可用率、品牌出現率,還是引用率。
本文建議保存原始回答和每筆狀態,至少區分有效回答、無答案、執行失敗、品牌提及、引用與推薦判讀。報告中同時列分母、覆蓋率和排除條件,才能讓下一次重測與前一次相容;這是本頁的工作方法,不是所有平台共同公布的指標規格。