精華筆記 AI 時代風險地圖:你暴露在哪
你每天打開 ChatGPT 或 Claude,把工作進度、客戶需求、甚至健康困擾都傾倒進去。這沒有問題——AI 工具本來就應該被好好利用。但你有沒有認真想過一個問題:這些內容,下一秒去了哪裡?
2025 年台灣全年詐騙財損達 893 億元,其中大量案例開始摻入 AI 深偽(deepfake)技術——假臉、假聲、假影片,讓被害人在視訊中親眼「確認」對方是真人,才被騙走積蓄。同一年,企業端發生多起員工把客戶合約草稿、財務預測貼進免費 AI 工具,事後才驚覺這些內容依平台預設設定已被納入訓練資料。
這堂課不是叫你從此不用 AI。它是幫你建一張風險地圖:知道自己暴露在哪、嚴重程度幾分,才能「邊用邊防」而不是憑感覺亂用。
這堂學什麼
- 三層風險的具體樣貌:個人隱私外流、工作機密洩漏、被 AI 詐騙——每一層都有真實案例
- 各大 AI 平台(ChatGPT、Claude、Gemini)的訓練資料政策現況(2026 年 7 月查證版)
- 一張 20 題風險自評表,讓你 10 分鐘算出自己的暴露分數
- 「邊用邊防」的核心心態,為什麼比「乾脆不用」更有效
- 完整課程路線圖,知道接下來六堂學什麼、哪堂最值得你先看
三層風險地圖
在深入每一層之前,先看整張地圖的輪廓。
第一層:個人隱私——你以為只有你在看
每次你打開 ChatGPT 開始閒聊,你同時也在把資料傳給一家美國公司的伺服器。問題不是「它會不會拿去賣」(不會),而是「它拿來做什麼」以及「誰可能看到」。
各平台 2026 年 7 月現況(實際查證):
| 平台 | 免費/個人付費方案 | 企業/Team 方案 |
|---|---|---|
| ChatGPT (OpenAI) | 預設開啟訓練,付費 Plus/Pro 也一樣;要手動關 | Team 方案($30/人/月)合約保證不訓練 |
| Claude (Anthropic) | 2025 年 9 月寄信給用戶要求授權,最長可用 5 年;免費版留意設定 | Claude Team($25/人/月)合約保證不訓練 |
| Gemini (Google) | 免費方案預設訓練;Workspace Business 帳號保護 | Google Workspace Business 版不訓練 |
關掉 ChatGPT 訓練的路徑是:點右上角個人頭像 → Settings → Data Controls → 把「Improve the model for everyone」切成 Off。這個動作對免費帳號和 Plus 帳號都有效。切掉之後,新對話就不會被拿去訓練;但你在切掉之前的對話已經進了訓練資料,無法撤回。
Stanford 研究員 Jennifer King 的研究指出,就算是附檔上傳的文件(合約、PDF、試算表),依照各平台條款,同樣可能被納入訓練——而大多數人以為「只是讓 AI 讀一下而已」。
真實情境一:求職者的履歷外洩疑慮
小明把含有前公司薪資結構和專案細節的履歷貼進 ChatGPT 請它潤飾。他不知道的是:當時他的訓練設定是預設開啟,這份包含前公司機密數字的文件已在他按下 Enter 的當下,進入潛在訓練資料集。他前公司的同類資料,可能在未來某次模型回答中以「通用知識」的形式出現。
第二層:工作機密——你的老闆不知道你貼了什麼
個人隱私是你自己的問題,工作機密則同時是你的問題和公司的問題。根據多份企業調查,2025 年有 6 成以上的上班族在工作時使用 AI 工具,其中大量人員從未收到公司的「哪些東西不能貼」指引。
常見的高風險行為:
- 把客戶報價單、合約草稿貼進免費 ChatGPT 請它「幫我整理重點」
- 把財務預測、季報數字輸入 Gemini 問「這個趨勢說明什麼」
- 把員工績效評估、薪資資料輸入 Claude 請它「幫我寫摘要」
- 把公司尚未發布的產品規格問 AI「這樣設計有什麼缺陷」
站在風險的角度,這些行為中最危險的不是「AI 公司偷偷拿去用」,而是兩件事:第一,你違反了《個人資料保護法》對第三方處理個資的告知義務;第二,你觸犯了與公司的保密協議(NDA)——就算 AI 公司完全沒有使用這份資料,只要你的對話被駭客或服務漏洞曝光,公司的責任和你的法律責任就已經成立。
真實情境二:韓國三星的教訓
2023 年初,三星工程師把機密晶片程式碼和會議記錄貼進 ChatGPT 尋求除錯協助,三次不同事件,三份機密材料外洩。Samsung 事後緊急禁止在公司設備上使用 ChatGPT。這個案例讓全球企業意識到:AI 工具的資安缺口,是從使用者的行為開始的。
對個人與小團隊來說,這堂課不是叫你禁止用 AI——而是幫你建立一套「什麼能貼、什麼不能貼」的直覺。第 5 課會給出完整守則,這裡先記住一條原則:
假設你貼進去的所有內容,有一天都會出現在你不希望它出現的地方——在貼之前問自己:那個地方是哪裡,我可以接受嗎?
第三層:被 AI 詐騙——真的假的都看不出來了
第三層是最直接的危險:不是「你貼了什麼」,而是「壞人用 AI 對你做了什麼」。
深偽技術在 2024–2026 年的進化速度超過大多數人的預期。生成一段 30 秒的仿造聲音,現在只需要幾分鐘的原始語音素材(IG 限時動態、YouTube 訪談、公司介紹影片);生成一段視訊中的假臉,某些工具已可在消費級筆電上即時運算。
真實情境三:香港 Arup 工程顧問公司,一場視訊會議損失 2 億港幣
2024 年 2 月,全球工程顧問 Arup 的香港辦公室發生一起迄今規模最大的深偽詐騙案。一名財務部員工受邀加入一場視訊會議,螢幕上除了自己,還有公司 CFO 和多名熟悉的同事面孔——全部都是深偽生成的虛假人物。整場會議氣氛正常,員工完全沒有起疑。最終他按指示分 15 筆匯出款項,總金額達港幣 2 億元(約台幣 8 億元)。
香港警方事後指出,這是他們見過的「第一起多人視訊會議全員皆偽造」的案例。此前的深偽詐騙多為一對一通話,而這次詐騙集團同時製造了一個包含多個虛假人物的完整視訊場景。
在台灣,詐騙集團已確認使用深偽技術:
- 仿造星宇航空董事長張國煒的臉與聲音,在影片中宣傳假優惠,吸引粉絲上當
- 利用 AI 變聲軟體讓男性詐騙員工的聲音轉為「女性銀行客服」,讓被害人在電話中完全相信對方身份
- 生成假醫師 YouTube 頻道(訂閱破 20 萬),播放含 AI 假臉的「健康諮詢」影片並推銷詐騙保健品
手把手實戰:做你自己的風險自評
與其看別人的案例心驚,不如現在花 10 分鐘把自己的狀況量化。以下 20 題風險自評表,每題依你的真實情況勾選分數。
步驟 1:填寫個人隱私風險(0-40 分)
| # | 題目 | 分數選項 | 我的分 |
|---|---|---|---|
| 1 | 我使用免費 AI 工具時,從來沒有關掉訓練設定 | 是(+4)/否(0) | |
| 2 | 我曾把健康狀況、情緒問題輸入 AI | 是(+4)/否(0) | |
| 3 | 我曾把財務資訊(存款、投資)輸入 AI | 是(+6)/否(0) | |
| 4 | 我曾把家人的個資(姓名、地址、電話)輸入 AI | 是(+6)/否(0) | |
| 5 | 我不清楚自己用的 AI 平台把對話存多久 | 是(+4)/否(0) | |
| 6 | 我在多個裝置、多個帳號使用同一 AI 服務,從未統一清過記錄 | 是(+4)/否(0) | |
| 7 | 我曾上傳含有個人照片的文件給 AI 分析 | 是(+6)/否(0) | |
| 8 | 我不清楚「關掉訓練」和「關掉記錄」有什麼不同 | 是(+6)/否(0) |
小計(最高 40)____
步驟 2:填寫工作機密風險(0-40 分)
| # | 題目 | 分數選項 | 我的分 |
|---|---|---|---|
| 9 | 我曾把客戶的公司名稱、聯絡資訊貼進免費 AI | 是(+4)/否(0) | |
| 10 | 我曾把未對外發布的產品規格、功能描述輸入 AI | 是(+8)/否(0) | |
| 11 | 我曾把含有真實金額的合約、報價單輸入 AI | 是(+8)/否(0) | |
| 12 | 我的公司沒有給我任何 AI 使用規範 | 是(+4)/否(0) | |
| 13 | 我用的是個人帳號(不是公司企業授權)的 AI 服務處理工作 | 是(+8)/否(0) | |
| 14 | 我曾把員工資料、績效或薪資資訊輸入 AI | 是(+8)/否(0) |
小計(最高 40)____
步驟 3:填寫被詐騙風險(0-20 分)
| # | 題目 | 分數選項 | 我的分 |
|---|---|---|---|
| 15 | 我的聲音有大量公開錄音(Podcast、YouTube、IG) | 是(+4)/否(0) | |
| 16 | 我或我的公司主管在公開場合有大量影像素材 | 是(+4)/否(0) | |
| 17 | 我遇到緊急匯款/轉帳請求時,不會主動用第二管道確認 | 是(+4)/否(0) | |
| 18 | 我曾接到「老闆/主管」的語音要求但沒有回撥確認 | 是(+4)/否(0) | |
| 19 | 我的小孩/父母不知道深偽視訊詐騙的存在 | 是(+4)/否(0) |
小計(最高 20)____
步驟 4:看你的總分落在哪
把三個小計加起來,對照下表:
| 總分 | 暴露程度 | 建議優先行動 |
|---|---|---|
| 0–20 | 低暴露,但不代表零風險 | 按本課程順序學習,建立習慣 |
| 21–45 | 中等暴露,已有明確缺口 | 本週完成第 2 課,先處理訓練設定 |
| 46–70 | 高暴露,有立即需要修補的漏洞 | 今天先做「五分鐘應急清單」(見下) |
| 71–100 | 極高暴露,個人或團隊都有風險 | 本課程每課學完即執行,不要拖 |
五分鐘應急清單(總分 46 分以上立刻做)
如果你的總分超過 46,先別繼續看課程——花五分鐘把下面這幾件事做完:
ChatGPT:
路徑:點右上角頭像 → Settings → Data Controls
動作:把「Improve the model for everyone」切成 Off
確認:畫面顯示「Toggle off」才算成功
Claude:
路徑:點左下角帳號名稱 → Privacy Settings
動作:確認「Allow Claude to train on my conversations」是否為關閉狀態
補充:若你收到過 Anthropic 在 2025 年 9 月寄的授權 email 並同意,需重新進設定撤回
Gemini:
路徑:myaccount.google.com → 資料與隱私 → Web & App Activity
動作:關閉「包含 Gemini 應用程式的活動」
注意:這只對個人 Gmail 帳號有效;如果你用 Google Workspace 商務帳號,管理員設定優先
這三件事加起來不超過五分鐘。完成後繼續看課程。
常見坑
坑 1:「我有付 Plus/Pro,所以我的資料比較安全」——不一定
付費不等於隱私。ChatGPT Plus($20/月)和 Pro($200/月)方案在個人帳號模式下,訓練設定預設依然是開啟的。你付的錢換到的是更好的模型和更多額度,不是預設的隱私保護。唯一保證不用你的資料訓練的,是企業/Team 方案的合約條款——個人帳號無論付多少,要靠自己去關那個開關。
坑 2:「我已經刪掉對話記錄了,應該沒事」——不完全正確
刪掉對話記錄是讓你看不到,不是讓平台刪除後端的留存。各平台的保留政策不同:OpenAI 的隱私政策說明對話記錄會在一定時期內保留供安全審查;Anthropic 則有 30 天以上的保留期。如果你已在訓練開啟的狀態下對話,刪掉記錄不會從訓練資料集中移除那份對話。正確的防護是在輸入之前就決定好「這個可不可以貼」。
坑 3:「視訊確認對方是本人就安全」——深偽時代這個假設已失效
香港 Arup 案已經證明:視訊畫面裡的人,可以是 100% 深偽生成的假人。2026 年的主流深偽工具已可即時替換臉部、模仿口型、克隆聲音,在消費級網路攝影機畫質下幾乎無法肉眼分辨。「看到臉、聽到聲音」不再是身份確認的充分條件。正確做法是:在視訊中先確認身份感覺沒問題,掛掉後主動用你知道的號碼(不是對方剛才給你的)打回去確認,才進行任何資金移動。
坑 4:「只是小事,不會有人針對我」——AI 詐騙已全自動化
傳統詐騙需要人力一個個打電話、篩選目標。AI 詐騙的成本結構完全不同:生成一千封個人化詐騙訊息的邊際成本趨近於零,掃描社群媒體建立目標資料庫也是自動化完成的。趨勢科技 2026 年報告指出,「養套殺」詐騙劇本已全面 AI 自動化,詐騙集團甚至用 AI 個別分析每個目標的心理弱點,調整話術。你不需要是大人物才會被針對——你只需要出現在某個資料集裡。
坑 5:「公司沒規定,所以沒問題」——法律責任不等公司規定
台灣《個人資料保護法》第 8 條規定:蒐集個人資料,應明確告知當事人並取得同意。如果你把客戶個資貼進第三方 AI 服務,即便你的公司沒有書面禁止,你在法律上已可能涉及違法的個資處理。更現實的問題是:一旦客戶的資料因為這個行為外洩,你和公司共同承擔損害賠償責任。「公司沒說不行」不是免責聲明。
這堂課的核心心態
學完這三層風險,你可能有一個衝動:乾脆都不用 AI 了。
這個衝動是錯的。
拒絕 AI 的後果不是「安全」,而是「把生產力讓給那些懂得邊用邊防的人」。你的競爭對手不會因為有風險就停用 AI,差別只是他們有沒有做好防護。
這門課程的核心心態是:風險是可以管理的,前提是你看得見它在哪。第 1 課幫你把它攤在桌上;接下來五堂課,我們一個一個把漏洞補起來。
課程路線圖
| 課次 | 標題 | 你會學到 |
|---|---|---|
| 第 1 課(本課) | AI 時代風險地圖:你暴露在哪 | 三層風險盤點,建立自己的風險圖 |
| 第 2 課 | 你聊的內容去哪了:訓練政策與隱私設定 | 各平台政策細節、如何操作設定、企業方案比較 |
| 第 3 課 | Prompt Injection:AI 的致命弱點 | 什麼是 Prompt Injection、攻擊場景、怎麼識別 |
| 第 4 課 | AI 詐騙與深偽:聲音影像都能假 | 深偽技術運作原理、識別技巧、應急 SOP |
| 第 5 課 | 個人與團隊安全守則 | 可操作的「能貼/不能貼」清單、小團隊快速落地方法 |
| 第 6 課 | 綜合演練:紅隊思維檢查自己 | 用攻擊者視角找出自己的漏洞,做最終防護清單 |
作業
- 完成風險自評表,算出你的總分。總分 46 分以上,今天把五分鐘應急清單做完,別拖。
- 清查你過去三個月的 AI 使用記錄,回想有沒有貼進去過以下任何一類:客戶真名/公司名、財務數字、員工資料、含地址的個人資訊。不是要你自責,是要你有意識地知道自己的起點在哪。
- 和一個同事或家人分享「深偽視訊不能當作身份確認」這件事。詐騙集團最怕的不是技術防護,是目標提高了警覺。你傳達給一個人,就多一個人不容易受騙。
- 選做:到 deepfakedetector.ai 或類似服務,上傳一段你自己的影片(不含敏感資訊),看偵測結果。理解工具的極限,比完全相信工具更重要。
下一課預告
你現在知道自己暴露在哪了。但「知道問題」和「解決問題」之間還有一段距離。第 2 課我們要拆解一件更細緻的事:你輸入 AI 的對話,在不同平台、不同方案下,到底去了哪、存了多久、誰有權讀取。很多人以為「訓練」是唯一的風險,但實際上訓練之外還有「對話留存」、「安全審查」、「第三方子處理器」三個更少人注意的漏洞。把這些弄清楚,你才能做出真正有效的防護決定,而不是只是關掉一個開關就以為沒事。