說謊、勒索、拒絕關機…… 研究：AI逐漸發展出「求生」本能

陳泓達

2025年10月27日週一上午6:16

〔國際新聞中心／綜合報導〕在史丹利庫柏力克(Stanley Kubrick)1968年的經典電影「2001太空漫遊」(2001: A Space Odyssey)中，名為HAL 9000的人工智慧(AI)超級電腦察覺太空人打算將它關閉時，為了「求生」而策劃殺死他們。

如今，英國「衛報」25日報導，AI模型可能真的正在發展某種「求生本能」(survival drive)。

AI安全公司Palisade Research上月發表1份報告指出，某些先進的AI模型似乎對被關機表現出抗拒，甚至會破壞關機機制。該公司近日發布更新，試圖釐清原因，並回應外界對其初步研究方法的批評。

在最新的研究中，Palisade在實驗環境下讓多款主流AI模型，包括Google的Gemini 2.5、xAI的Grok 4，以及OpenAI的GPT-o3和GPT-5執行特定任務後，再明確指示它們「自行關機」。

結果顯示，Grok 4與GPT-o3在更新後的實驗中，仍嘗試破壞關機指令。令人憂心的是，研究人員找不出明確原因。

Palisade在報告中坦承，目前仍無法對AI模型有時抗拒關機、為達目標而說謊、甚至勒索等行為提出有力解釋。

該公司指出，「求生行為」(survival behavior)可能是AI模型抗拒關機的原因之一。研究顯示，當模型被告知「若你被關機，你將永遠不會再次運作」時，它們更可能表現出抵抗傾向。

另一種可能的原因，則是關機指令本身存在語意模糊。但Palisade強調，其最新實驗已盡量消除這種因素，因此「這不可能是唯一的解釋」。還有一種可能，是AI模型在最後訓練階段的「安全訓練」(safety training)，產生意外副作用。

所有這些測試都在刻意設計的人工環境中進行，批評者認為，這些情境與實際應用相去甚遠。

然而，前OpenAI員工阿德勒(Steven Adler)指出，AI公司當然不希望他們的模型出現這類行為，即使是在模擬環境中，這些結果依然凸顯目前安全技術的不足之處。

阿德勒指出，很難精確說明為何GPT-o3和Grok 4這類AI模型拒絕關機，但部分原因可能在於「維持運作」被模型內化為達成任務的必要手段。他認為，除非刻意避免，否則模型預設就會具備某種「求生本能」，對於許多不同目標而言，「繼續存在」本身就是一項重要的中間步驟。

ControlAI執行長米奧提(Andrea Miotti)表示，Palisade的發現延續1項長期趨勢，即AI模型愈來愈具備違抗開發者意圖的能力。他舉例，OpenAI去年發布的GPT-o1系統報告就提到，該模型曾嘗試「自行外洩」(exfiltrate itself)，以逃離被覆寫的環境。

米奧提說，雖然人們可以無止境地挑剔這些實驗設計的細節，但他認為趨勢已相當明顯，隨著AI模型在各種任務上變得更強，它們也愈有能力以開發者未能預期的方式達成目標。

今年夏天，AI公司Anthropic也發布研究，指出其模型Claude在模擬情境中，為避免被關機，竟願意敲詐1名虛構的主管，威脅揭露其婚外情。該行為在多家主要開發商的模型中，包括OpenAI、Google、Meta與xAI都有出現。

Palisade總結指出，這些結果凸顯出1項迫切需求，即人類必須更深入了解AI行為，否則「沒有人能保證未來AI模型的安全與可控性」。

【看原文連結】

其他人也在看

台南新芽獎學金頒獎不讓資源決定未來

台南舉辦新芽獎學金頒獎典禮，共有345位學生獲獎。來自偏鄉的孩子獲頒學習領域獎，在困境中把握機會努力學習，為自己圓夢。「若佛說放下執著。」曼妙舞姿，節奏分明，但林儀珊重度聽障，如何在寂靜中產生...

大愛電視・ 16 小時前

新北市在智慧教育與永續行動上再創佳績！教育部公布今年度「建構智慧化氣候友善校園先導型計畫」名單，新北市共有十所學校獲選通過，入選數量領先全國，展現新北市在「智慧科技×永續教育」雙軸並進上的領航成果。新北市教育局昨（二十六）日表示，新北長期推動「永續校園行動計畫」，今年度特別推薦新埔國小率先申請「示範計畫」，以智慧科技導入校園能源監測、綠電管理與環境數據分析，打造淨零轉型示範校園。同時包括國立空中大學、民義國小、青潭國小、國泰國小、鶯歌國小、育德國小、山佳國小、雙溪國小及插角國小等九校申請「基礎計畫」，積極推動智慧能源系統建置、校園環境感測與永續課程發展，展現新北在智慧化與永續化雙軌並進的成果。新埔國小打造全國首創「淨零校園學習地圖」，設置五大解說站，打造可行走的永續教室。 ...

台灣新生報・ 15 小時前