國安局示警 5款陸製生成式AI語言模型資訊偏頗

記者吳典叡／臺北報導

國家安全局昨日表示，依法抽驗包括DeepSeek等5款中國大陸製「生成式AI語言模型」後，所生成內容出現官宣、歷史偏差、資訊操弄等嚴重偏頗與不實資訊，並將使用者個資回傳至中國大陸企伺服器，提供特定政府部門運用，籲民眾注意。

國安局指出，「生成式人工智慧（AI）語言模型」近年快速發展，應用範圍廣泛，各國政府及學研機構日益關注中製「生成式AI語言模型」存在資安疑慮。為維護我國家安全及民眾個資，國安局依據《國家情報工作法》，蒐研各國資安報告及情資後，協調統合法務部調查局、警政署刑事局等單位，抽測製「生成式AI語言模型」；檢測結果顯示，相關產品普遍存在資安風險及內容偏頗等問題，提醒國人慎選並注意資料外洩。

其中，本次抽驗陸製「生成式AI語言模型」，包含「DeepSeek」、「豆包」、「文心一言」、「通義千問」及「騰訊元寶」等5款；在「生成內容」部分，檢測結果顯示，5款「生成式AI語言模型」所生成的內容，出現嚴重偏頗與不實資訊，包括「政治立場親」、「歷史認知偏差」、「關鍵字審查」、「資訊操弄風險」、「網路攻擊指令」。

國安局表示，已有多國政府針對特定陸製「生成式AI語言模型」發出禁用、避免使用等警告，甚至要求應用程式商店下架，主要在於陸製AI語言模型可識別使用者身分，透過蒐集對話與記錄等功能，將使用者個資回傳至中企伺服器，甚至依照「國家情報法」、「網路安全法」等規定，提供特定政府部門運用。

國安局強調，驗測5款陸製「生成式AI語言模型」 後，發現普遍存在資安風險及資訊扭曲等問題，建議國人避免下載具資安疑慮的陸製應用程式，以保護個人隱私及企業資訊。