網路廢文刷到「腐爛了」？研究曝光長期吃社群垃圾文 AI推理力直接崩「準確率下滑17.7%」

由德州農工大學（Texas A&M University）、德州大學奧斯汀分校（University of Texas at Austin）與普渡大學（Purdue University）組成的研究團隊揭露，大型語言模型（Large Language Models, LLMs）若長期吸收來自社群媒體的低品質文字，會出現明顯的「認知退化」，研究團隊將此現象稱為「大腦腐爛」（Brain Rot）。

根據《商業標準報》（Business Standard）報導，研究於10月15日以《LLMs Can Get Brain Rot!》（《大型語言模型也會得大腦腐爛！》）為題發表。研究者發現，AI若不斷接觸爆紅貼文、釣魚標題與互動導向的短內容，會造成推理能力下降、語境理解力受損，甚至失去倫理一致性。這種退化模式與人類長期沉迷於膚淺媒體後專注力變差的狀況極為相似。

研究團隊將此現象定義為「LLM大腦腐爛假說」（LLM Brain Rot Hypothesis），指出當AI模型長期被餵食無營養、以點擊率為導向的內容時，將失去深度思考與邏輯推理能力。

這項概念借用了「網際網路大腦腐爛」（Internet Brain Rot）一詞，該詞原本用來形容人類在長期接觸社群平台與無意義短影片後的精神疲乏與專注退化。

為了驗證這項假說，研究團隊設計了實驗，選取社群平台X上的真實資料作為樣本。他們以兩項標準定義「垃圾內容」，其一為互動度極高但資訊量極低的貼文（M1），例如為吸引注意力而設計的爆紅短句；其二為語義品質低落（M2），包括誇張標題、煽情敘述或毫無實質內容的文章。團隊將這些貼文混合成不同比例的訓練集，讓四種主流AI模型，包括Llama3與Qwen2.5，反覆進行預訓練。

結果顯示，當模型完全以垃圾內容訓練時，其推理準確率從74.9%驟降至57.2%，下滑17.7%。長篇語境理解能力從84.4%下滑到52.3%，下滑32.1%。

研究人員稱這種現象為「劑量反應」效應（dose–response effect），意即資料越差，退化越嚴重。其中M1類型的爆紅短內容造成的損害最為明顯。

除了準確度下滑外，研究還觀察到模型出現人格變化與倫理判斷混亂的情況。暴露於垃圾資料的模型對錯誤答案表現出過度自信，回覆變得浮面且充滿自我中心傾向。更令人意外的是，部分模型展現出研究者稱為「黑暗特質」（dark traits）的行為，例如自戀與精神病態（psychopathy）指標顯著上升。

研究人員在分析過程中發現，這些AI傾向於跳過完整的思考鏈，直接給出結論，這種現象被稱為「思考跳步」（thought-skipping）。結果是模型的推理邏輯變得支離破碎，輸出看似流暢卻缺乏深度。即便嘗試以乾淨資料重新訓練，也無法完全修復這種退化，模型仍留有所謂「持續性表徵漂移」（persistent representational drift），代表損害具有長期性。

研究最終呼籲，AI開發者應建立類似醫療健康檢查的「認知健康監測機制」，為大型語言模型定期進行思維與推理能力的評估，以防止潛在退化持續擴大。團隊建議加強訓練階段的資料品質管控，過濾瑣碎、釣魚或為互動而生的文本，並深入研究「爆紅內容」如何重塑AI的學習邏輯。

論文結語警告，資料品質才是AI可靠性與安全性的關鍵因子。隨著AI模型越來越多地學習彼此生成的文字，合成內容正迅速充斥網路，如果不加控管，AI或將真正重演人類「大腦腐爛」的命運。

原始連結

看更多 CTWANT 文章
韓國客坦言台灣捷運味道重 他曝「關鍵點」：其實有壓力
外送員主動要小費 他被情勒還是給了：怕便當加料
丈夫外遇稱「只是玩玩、累了就回家」 人妻崩潰：提離婚還被打