使用生成式人工智慧工具處理公務數據，最嚴重的洩密風險存在「輸入被用於模型訓練」與「對話記錄遭受第三方監控或意外公開」。機敏公務資訊、民眾個資或未公開的內部文件若直接貼在A​​I平台上，極易導致機密外洩與違反個資法。

防範生成式AI衍生公務資料洩密參考措施：

一、禁止事項

(一)禁止處理機密文件：絕對禁止將涉及國家機密、公務機密之文件上傳或交由AI撰寫。

（二）嚴禁輸入個人資料：禁止提供人工智慧人員或公務員的個人資料（如身分證字號、病史、記錄財務等）。

（三）嚴禁預設同意之公開資訊：預設許可的內部會議記錄、決策草案、招標底價等均不得提供給AI。

二、使用前應注意事項

(一)關閉歷史記錄與訓練：若公務上必須使用AI工具輔助，進入帳號設定，關閉「對話記錄」與「模型訓練」功能。

(二)去識別化處理：必須將所有資訊去識別化，去除人名、機構名稱、特定母語，僅保留語義或邏輯結構。

（三）事實查證： AI大量的內容可能會捏造事實或引用錯誤數據，業務承辦人必須查核內容正確性，不可直接複製貼上作為公文。