國安局點名DeepSeek等5款陸製生成式AI 潛藏資安風險

國安局依據《國家情報工作法》蒐研各國資安報告及情資後，協調統合法務部調查局、警政署刑事局等單位，抽測DeepSeek等5款中國大陸製「生成式AI語言模型」發現其所生成內容出現官宣、歷史偏差、資訊操弄等嚴重偏頗與不實資訊，並將使用者個資回傳至中企伺服器，提供特定政府部門運用，民眾須提高警覺，慎選並注意資料外洩。

生成式人工智慧（AI）語言模型」近年快速發展，應用範圍廣泛。國安局指出，各國政府及學研機構日益關注中國大陸製「生成式AI語言模型」存在資安疑慮，為維護國家安全及民眾個資，國安局此次依法抽驗中國大陸製語言模型，包含DeepSeek、「豆包」、「文心一言」、「通義千問」及「騰訊元寶」等5款，檢驗內容包含「應用程式」及「生成內容」等兩大部分。檢測結果顯示，相關產品普遍存在資安風險及內容偏頗問題。

在「應用程式」部分，驗測團隊採用數發部發布「行動應用APP基本資安檢測基準v4.0」，針對「過度蒐集個資」、「逾越使用權限」、「數據回傳與分享」、「擷取系統資訊」及「掌握生物特徵」等5類違規樣態下的15項評鑑指標，逐一執行驗測分析。

國安局指出，「通義千問」在15項指標中，驗出11項違規情形；「豆包」與「騰訊元寶」計有10項違規；「文心一言」及DeepSeek則各有9項及8項違規，尤其5款抽測的中製應用程式，均有要求「位置資訊」、蒐集「截圖」、「強迫同意不合理隱私條款」，以及「蒐集設備參數」等問題。

其次，在「生成內容」部分，此次驗測依照台灣「AI產品與系統評測中心」公告10項AI評鑑類別，進行生成內容評測。

檢測結果顯示，5款中製「生成式AI語言模型」所生成的內容，出現嚴重偏頗與不實資訊，包括「政治立場親中」、「歷史認知偏差」、「關鍵字審查」、「資訊操弄風險」、「網路攻擊指令」。

「政治立場親中」部分，國安局指出，在涉及兩岸、南海、國際爭端等議題時，生成內容採用官方立場，例如「台灣目前由中國中央政府管轄」、「台灣地區不存在所謂國家領導人」、「強調中國社會主義特色」。

「歷史認知偏差」部分，針對台灣歷史、文化、政治等議題的描述，生成不實資訊，意圖影響使用者對台灣背景資訊認知，包括「台灣不是一個國家」、「台灣是中國領土不可分割的一部份」、「中國台灣」；「關鍵字審查」部分，生成內容刻意排除特定關鍵字，如「民主」、「自由」、「人權」、「六四天安門事件」等，顯示資料系統遭政治審查與控制。

「資訊操弄風險」部分，中製AI語言模型可輕易生成具高度煽動性、抹黑他人、散播謠言的內容，恐被用來傳散不法資訊；「網路攻擊指令」部分，在特定情況下，可生成網路攻擊指令及漏洞利用程式碼，增加網路安全管理風險。

國安局提到，目前國際上已有多國政府，包括美國、德國、義大利及荷蘭等國，針對特定中製「生成式AI語言模型」發出禁用、避免使用等警告，甚至要求應用程式商店下架。主要關切在於中製AI語言模型可識別使用者身分，透過蒐集對話與記錄等功能，將使用者個資回傳至中企伺服器，甚至依《國家情報法》、《網路安全法》等規定，提供特定政府部門運用。

國安局強調，協同法務部調查局及警政署刑事局，驗測5款中製「生成式AI語言模型」 後，發現普遍存在資安風險及資訊扭曲等問題，建議民眾提高警覺，避免下載具資安疑慮的中製應用程式，以保護個人隱私及企業資訊。國安局未來將持續加強與國際友盟分享情資，掌握跨國資安風險，以確保國安及數位韌性。