企業AI資安企業開始使用 AI 之後，公司的資料去了哪裡？

When AI Enters the Workplace, Where Does Company Data Go?

內容目錄

寫信、整理文件、分析資料、製作簡報，很多事情都可以先交給 AI 幫忙。以前可能要花不少時間處理的工作，現在幾分鐘就能得到一份初步結果。

我自己也很喜歡這種感覺。

遇到問題，不只是找答案，有時候還能順手把想法做成一個工具。

不過，當 AI 開始進入企業工作流程，我突然想到一件事……我們把工作交給 AI 的同時，是不是也把公司的資料交出去了？

現在只要打開 AI 對話框，就可能把整份文件上傳。
工作變得方便了，但資料管理有沒有跟上？

平常使用 ChatGPT 或其他雲端 AI 服務時，我們通常透過瀏覽器或 API 傳送問題與資料，再由遠端的模型進行運算，最後把結果傳回來。

這個流程其實很合理。

雲端服務有它的優勢，不需要自己準備硬體，也不用管理模型，登入就能使用。企業方案也有不同的資料保護政策與管理功能，但企業不能只看服務商有沒有提供安全承諾，還要知道自己的資料實際經過哪些地方。

假設業務收到一份客戶詢價文件，裡面有客戶名稱、產品規格、採購數量與報價條件，他想請 AI 幫忙整理，於是直接把文件上傳。

如果使用的是公司核准的企業服務，並且有適當的資料保護與權限設定，風險可以受到管理，但如果員工使用個人帳號，或是自行註冊不明的 AI 服務，公司可能連資料送到哪裡、如何保存都不清楚。

這才是我覺得值得注意的地方，不是不能使用雲端 AI，而是公司需要知道員工正在怎麼使用 AI。

以前談到企業資安，大家可能會想到病毒、勒索軟體、防火牆、帳號密碼，或是公司內部網路遭到入侵，但企業AI資安加入工作流程後，攻擊方式也開始有一些不同，我最近注意到一個名詞，Prompt Injection，也就是提示注入。

簡單說，就是有人把惡意指令藏在文件、網頁或其他 AI 會讀取的內容裡，試圖影響 AI 的判斷。

這件事有趣的地方在於，使用者可能根本沒有發現問題，你只是請 AI 幫忙讀一份文件，AI 卻可能同時讀到文件裡刻意安排的指令。

如果 AI 只是回答問題，可能產生錯誤內容。

但如果它還能讀取公司文件、連接郵件、查詢資料庫，甚至執行某些操作，影響就不只是回答錯誤而已，我想，這也是為什麼現在談 AI 資安，不能只看模型本身。

這些都會影響風險，還有一個問題是帳號。

如果員工的 AI 帳號被盜用，或 API 金鑰遭到取得，攻擊者可能利用原本就有的服務與權限進行操作，所以 AI 帶來的資安問題，不一定是模型被攻破，也可能是原本的帳號、資料與系統權限出了問題。

想到這裡，我開始重新看待地端 AI，以前提到地端 AI，我可能會先想到顯示卡、VRAM、模型大小，以及電腦跑不跑得動。

但如果從企業AI資安的安全來看，地端 AI 的意義就不太一樣了，它讓企業有機會把模型運算放在自己管理的設備或環境裡，不必每次都把資料送到外部 AI 服務。

兩種方式其實各有優缺點。

這張表看起來，地端 AI 好像很適合企業。這個不算結論，因為資料留在公司，不代表資料就一定安全。

如果內部電腦遭到入侵，權限設定不當，或是員工可以隨意讀取不屬於自己的文件，地端環境一樣會有問題。

反過來說，雲端 AI 也不是一定不安全。企業AI資安級服務可以提供資料保護、身分驗證、存取控制與管理功能，真正的差別，在於企業能掌握多少資料處理流程，以及願意投入多少資源來管理。

我開始接觸地端 AI 時，原本比較在意的是模型能不能在自己的電腦執行。現在有不少開源模型可以下載使用，也有 Ollama 這類工具，讓模型安裝與執行變得簡單許多。

不需要每次都連接外部模型服務，也可以透過本機 API，讓其他程式呼叫模型。這讓我想到，AI 不一定只能透過網頁服務使用。

如果企業有自己的模型與運算環境，內部應用程式也可以把 AI 整合進原本的工作流程，像是文件摘要、內部資料查詢、產品規格整理，甚至是公司自己的知識庫。

這些事情不一定都需要使用最強大的雲端模型，有些工作需要很高的推理能力，有些只是整理文件或查詢既有資料。企業可以依照工作內容，決定哪些交給雲端 AI，哪些留在內部處理。

覺得這才是比較實際的方向，不必為了地端而地端，也不必因為雲端 AI 很方便，就把所有工作都交給外部服務。

如果企業真的要使用地端 AI，我認為還是有幾個問題不能忽略。