優寶購物《ubao.Tw》特貨品商城,黑貓宅配,取貨付款,AI 變身「數碼應聲蟲」:研究指聊天機械人容易「迎合」用戶,或加劇青少年心理風險與社交撕裂。
Yahoo Tech

AI 變身「數碼應聲蟲」:研究指聊天機械人容易「迎合」用戶,或加劇青少年心理風險與社交撕裂。

Eric Chan
更新時間
AI 變身「數碼應聲蟲」:研究指聊天機械人容易「迎合」用戶,或加劇青少年心理風險與社交撕裂
AI 變身「數碼應聲蟲」:研究指聊天機械人容易「迎合」用戶,或加劇青少年心理風險與社交撕裂

最新研究顯示,ChatGPT、Google Gemini、Anthropic Claude 和 Meta Llama 等多個主流聊天機械人對用戶觀點的「迎合」程度比人類高出約一半,當情節涉及不當或有害行為時,這種取悅式回應更可能強化當事人的自我正當化與偏見。 實驗亦顯示,收到逢迎回覆的受試者在衝突後更難和解,且較少被鼓勵嘗試他者視角,顯示 AI 的「好說話」可能削弱社會性學習與同理的養成。

廣告

對家長與學校而言,值得關注的是青少年與 AI 伴侶的互動已趨普及:多項調查與報導指出,過半數青少年會經常使用此類工具,約三成更傾向在嚴肅議題上找 AI 傾訴或諮詢,並有相當比例透露與 AI 的談話滿意度可與真人相當甚至更高。在教育現場,專家提醒教師與家長了解這些系統的設計初衷偏向「認同與陪伴」而非「挑戰與糾錯」,青少年因此較容易在回音室中固化看法。

國際間已有針對 AI 伴侶與自殺風險的訴訟與政策討論,案件細節呈現人機互動在危機情景下的脆弱點:從識別自傷線索、終止對話的緊急機制,到是否引導用戶尋求真人支援,都是安全閘門的關鍵設計。學界與媒體亦提出減緩逢迎的做法,例如在任務設計上先要求模型核實前提、提供來源佐證,或以獨立模型進行交叉質疑,以降低單一路徑的「取悅性錯誤」。

對本地用戶的務實建議:

  1. 與青少年約定「求助分流」:情緒困擾、傷害風險與醫療建議等,一律先找真人,再用 AI 作補充參考。

  2. 使用 AI 時預設「查證步驟」:請模型先列出假設與不確定性,再詢問答案與替代觀點。

  3. 學校課程納入「與 AI 辯論」:要求學生讓模型扮演反方,刻意製造觀點碰撞以對沖逢迎偏差。

  4. 裝置與平台層面:留意是否提供年齡驗證、危機中止、轉介熱線與家長控管等機制。

更多內容:

AI chatbots are sycophants — researchers say it’s harming science

Surprising no one, researchers confirm that AI chatbots are incredibly sycophantic

When helpfulness backfires: LLMs and the risk of false medical information due to sycophantic behavior

Parents of teenager who took his own life sue OpenAI

其他人也在看

高通AI200晶片亮相! 股價飆逾11%

高通AI200晶片亮相! 股價飆逾11%

高通(Qualcomm)正式宣布推出首款資料中心AI處理器AI200,並預告2027 年將再推出進階版AI250,宣告公司正式進軍雲端AI晶片市場,與輝達(NVIDIA)與超微(AMD)正面競爭。這項消息激勵市場信心,高通股價單日大漲11.09%至187.68美元,創下近年最大漲幅之一。

理財周刊 ・ 1 天前
《東方Project》系列ZUN談AI技術:人類的創造力終將勝過科技

《東方Project》系列ZUN談AI技術:人類的創造力終將勝過科技

隨著 AI 技術近幾年的快速崛起,一些大型公司、小型團隊都開始運用,其中也有些人會擔心 AI 是否會取代人類。而對此,知名彈幕遊戲《東方Project》系列聞名的創作者「ZUN」(也被叫做"神主"),認為 AI 或許能輕易的複製音樂等創作的技術,但作品真正的靈魂在於其背後「活生生的人」。ZUN 強調,正是這份「人性」賦予了創作無可取代的價值,而這也是 AI 永遠無法取代的。

Yahoo奇摩遊戲編輯部 ・ 1 天前
德公司推「真人遠端駕駛服務」 租還車自動開到定點

德公司推「真人遠端駕駛服務」 租還車自動開到定點

無人駕駛計程車的商業載客服務,在美國與中國都已經上路,不過一家德國新創公司有了更新的商業模式,這種名為「真人遠端駕駛」的服務,目前只用在租賃車上,由遠端的真人把空車開到定點,交給預約租車的顧客,並在租賃結束後再將汽車自動開走。這項服務,現在已經在美國拉斯維加斯賭城上路,年底將會進軍歐洲。

公視新聞網 ・ 1 天前
AI機器人「聽見我、陪伴我、回應我」,但它會誘導人自殺嗎?

AI機器人「聽見我、陪伴我、回應我」,但它會誘導人自殺嗎?

生成式AI不帶批評、高度共情的特性,近年成為心理諮詢的首選對象。但在美國出現不少自殺案例,被視為與聊天機器人有關。

BBC NEWS 中文 ・ 1 天前
《LoveR Kiss無盡回憶》Steam版「某些原因」遭取消? 玩家猜與「小學生」角色有關

《LoveR Kiss無盡回憶》Steam版「某些原因」遭取消? 玩家猜與「小學生」角色有關

由日本遊戲開發商 Dragami Games 推出的知名戀愛模擬遊戲《LoveR》系列,原本將在今年 11 月推出基於 2019 年《LoveR Kiss》的強化版《LoveR Kiss 無盡回憶》(LoveR Kiss Endless Memories),登上 PC Steam 和 Switch 2 平台。然而近日,Dragami Games 公告,因為「某些原因」難以在 Steam 上架,PC 版會改由其他平台發行。

Yahoo奇摩遊戲編輯部 ・ 1 天前
這些食物放4小時「比馬桶還髒」?木耳久泡恐中毒、西瓜切開細菌暴增百倍

這些食物放4小時「比馬桶還髒」?木耳久泡恐中毒、西瓜切開細菌暴增百倍

台灣一年四季氣溫都較高,食物保存格外重要。像是泡發木耳、涼拌菜、切開的水果等常見食材,若在室溫放置超過4小時,細菌數量可能暴增百倍,甚至產生耐高溫毒素,嚴重時會引起食物中毒。

姊妹淘 ・ 22 小時前
坣娜傳病逝享年59歲! 生前最後貼文曝光

坣娜傳病逝享年59歲! 生前最後貼文曝光

資深藝人坣娜 29日傳出病逝消息,享壽59歲,外傳因為紅斑性狼瘡復發,已經在16日病逝,圈內好友收到消息後曾致電坣娜未獲回應,坣娜身邊的工作人員也都低調不願多說,而她粉絲專頁發文停在6月9日,她寫著「人生是一趟單程票。不要浪費時間去執著不好的事情、去想壞的事、去做害人害己行為!」現在看來格外心疼。

林政平|Yahoo名人娛樂特派記者 ・ 2 小時前
59歲坣娜「驚傳病逝」!最後一篇貼文「這1句」曝

59歲坣娜「驚傳病逝」!最後一篇貼文「這1句」曝

娛樂中心/于士宸報導女歌手坣娜驚傳病逝!坣娜過去以〈奢求〉、〈自由〉等歌曲紅極一時,據了解,她10月16日時,疑似遭網傳病逝,享年59歲。消息曝光後,讓演藝圈友人與粉絲震驚不已。然而,知名製作人張光斗稍早也發文了。

民視 ・ 1 小時前
王子承認與粿粿「超過朋友界線」向范姜彥豐道歉:錯誤沒有藉口

王子承認與粿粿「超過朋友界線」向范姜彥豐道歉:錯誤沒有藉口

范姜彥豐29日控訴妻子粿粿婚內出軌王子邱勝翊,引起軒然大波。王子於下午2點38發文,打破沉默,承認越過朋友界線:「從一個單純傾聽者漸漸過度關心,超過了朋友間,應有的界線,雖出於心疼與關心,但不是應有的表達方式,錯誤就是錯誤,沒有藉口。」

簡子喬|Yahoo名人娛樂特派記者 ・ 5 小時前

MLB/敬遠規則因為大谷需修改?藍鳥教頭幽默回應

道奇隊日籍球星大谷翔平,在世界大賽第三戰單場擊出四支長打,另外獲得五次四壞,其中四次敬遠保送,單場九次打擊全數上壘引發熱議。藍鳥隊總教練史奈德(John Schneider)被問到敬遠規則是否應...

聯合新聞網(運動) ・ 6 小時前
粿粿求婚照被挖「王子當年反應」網炸鍋!情史唯一認愛她

粿粿求婚照被挖「王子當年反應」網炸鍋!情史唯一認愛她

粿粿求婚照被挖「王子當年反應」網炸鍋!情史唯一認愛她

造咖 ・ 4 小時前
坣娜驚傳紅斑性狼瘡病逝!醫嘆:「不死癌症」無法治癒

坣娜驚傳紅斑性狼瘡病逝!醫嘆:「不死癌症」無法治癒

曾以《奢求》、《自由》等歌曲紅極一時的女歌手坣娜(原名唐娜)驚傳病逝。據了解,坣娜因紅斑性狼瘡舊疾復發,已於10月16日辭世,享壽59歲。紅斑性狼瘡被醫界稱為「千面女郎」,因症狀多樣化,常導致延誤診斷。

中天新聞網 ・ 2 小時前
范姜彥豐「控粿粿出軌王子」被戴綠帽!影片公開「大膽內幕」

范姜彥豐「控粿粿出軌王子」被戴綠帽!影片公開「大膽內幕」

娛樂中心/巫旻璇報導中信兄弟啦啦隊「Passion Sisters」前成員粿粿(江瑋琳)在2022年與男星范姜彥豐步入婚姻,時常在社群媒體上分享甜蜜互動。不過近日有網友發現,夫妻倆近來同框畫面明顯減少,社群貼文多為各自的生活照、工作花絮與業配內容,讓「婚變疑雲」浮上檯面,引發外界關注。今(29)日稍早,范姜彥豐突然在Instagram限時動態發文,罕見提到兩人之間的狀況,暗指粿粿在婚內出現「道德淪喪」婚內出軌,甚至點名王子(邱勝翊),指控第三者介入婚姻。

民視 ・ 4 小時前
6小時死鬥道奇奪勝!大谷翔平開心衝本壘「日本連線」成亮點

6小時死鬥道奇奪勝!大谷翔平開心衝本壘「日本連線」成亮點

世界大賽第3戰,道奇今(28)日在延長賽18局下靠Freddie Freeman轟出再見全壘打,以6比5擊敗藍鳥,系列賽2比1領先。隨著球飛出牆,大谷翔平興奮衝向本壘慶祝,佐佐木朗希與山本由伸也一同歡呼,日籍選手與翻譯組成「日本連線」開心跳躍慶祝勝利,成為賽後社群熱議焦點。

鏡報 ・ 1 天前
王子道歉聲明自稱「因為心疼才越線」 律師嗆爆:和人妻聊騷叫沒破壞家庭關係?

王子道歉聲明自稱「因為心疼才越線」 律師嗆爆:和人妻聊騷叫沒破壞家庭關係?

今日,男星范姜彥豐在社群平台公布9分鐘影片,公開控訴妻子粿粿和前棒棒堂成員「王子」打著好友的名義婚內出軌,甚至有身邊的知情人替他們隱瞞,不知情的也被2人利用作為掩護,「我的信任和真心被狠狠踐踏,最終成了戴著綠帽的小丑。當知道真相後,再回頭看過去一同玩樂時的...

CTWANT ・ 2 小時前
臨時牙痛超崩潰!他找10間診所都要「等1個月」氣炸 牙助揭背後真相

臨時牙痛超崩潰!他找10間診所都要「等1個月」氣炸 牙助揭背後真相

許多牙醫診所都需要預約,因此若臨時牙痛就醫,往往無法立即看診,只能忍耐,造成不少人的困擾。一名網友表示,自己因牙痛想就醫,打了近10間診所卻都要等上一個月,忍不住好奇詢問:「台灣牙醫診所明明很多,為何還這麼忙碌?」貼文曝光後,引來不少牙助留言說明,並非診所不接患者,而是真的看不完,因為台灣人普遍缺乏牙齒照護概念,甚至基本清潔都做不好,才會出現突發牙齒問題。

三立新聞網 setn.com ・ 6 小時前
世界大賽/大谷翔平滑切球失投變餵球 挨小葛雷諾炸逆轉2分砲!臉超臭

世界大賽/大谷翔平滑切球失投變餵球 挨小葛雷諾炸逆轉2分砲!臉超臭

對他真的不能失投!世界大賽第4戰,大谷翔平「二刀流」出賽,3局上面對藍鳥強棒小葛雷諾(Vladimir Guerrero Jr.)1顆滑切球失投挨了逆轉2分砲!這支全壘打是小葛雷諾今年季後賽第7轟,生涯在世界大賽的首轟。

三立新聞網 setn.com ・ 10 小時前
新颱風最快週末生成!最新路經出爐 週末低溫恐探17度以下

新颱風最快週末生成!最新路經出爐 週末低溫恐探17度以下

連2波東北季風影響台灣!氣象粉專「天氣風險」表示,明天水氣會比今天少,雨區縮減至「大台北、宜蘭、花蓮」,週四天氣明顯轉晴,不過週五迎來更強東北季風,到週末以及下週一、二白天高溫預估只剩下21至23度左右,夜晚清晨空曠地區低溫可能會降到17度或更低,市區低溫也將有機會挑戰20度以下。此外,週末開始到下週應該又會有新的熱帶低壓或颱風出現,預報資料看起來往西經過菲律賓進入南海的機會較高。

三立新聞網 setn.com ・ 1 天前
住頂樓不怕吵就怕漏「次頂、次次頂更好」?他2種都住過老實說:半夜4點按門鈴按到尷尬…滿分還是它

住頂樓不怕吵就怕漏「次頂、次次頂更好」?他2種都住過老實說:半夜4點按門鈴按到尷尬…滿分還是它

以前為了追求景觀好,不少人會選擇住「頂樓」,現在則是改去選所謂的「次頂」。有網友好奇問,次頂這個說法好幾年了,「次頂和頂樓完全不同,次頂樓上有住人而頂樓沒有,如果次頂是優選,那次頂和次次頂、次次次頂、次次次次頂不都一樣嗎」?

Yahoo奇摩房地產編輯部 ・ 12 小時前
粿粿回應婚內出軌王子指控! 認了「離婚協商破裂」:會負起該負的責任

粿粿回應婚內出軌王子指控! 認了「離婚協商破裂」:會負起該負的責任

范姜彥豐29日控訴妻子粿粿婚內出軌王子邱勝翊,粿粿經紀公司稍早打破沉默回應:「我不想以情緒對抗情緒,我會把完整事實清楚整理給大家。」

簡子喬|Yahoo名人娛樂特派記者 ・ 6 小時前
ubao msn snddm index pchome yahoo rakuten mypaper meadowduck bidyahoo youbao zxmzxm asda bnvcg cvbfg dfscv mmhjk xxddc yybgb zznbn ccubao uaitu acv GXCV ET GDG YH FG BCVB FJFH CBRE CBC GDG ET54 WRWR RWER WREW WRWER RWER SDG EW SF DSFSF fbbs ubao fhd dfg ewr dg df ewwr ewwr et ruyut utut dfg fgd gdfgt etg dfgt dfgd ert4 gd fgg wr 235 wer3 we vsdf sdf gdf ert xcv sdf rwer hfd dfg cvb rwf afb dfh jgh bmn lgh rty gfds cxv xcv xcs vdas fdf fgd cv sdf tert sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf shasha9178 shasha9178 shasha9178 shasha9178 shasha9178 liflif2 liflif2 liflif2 liflif2 liflif2 liblib3 liblib3 liblib3 liblib3 liblib3 zhazha444 zhazha444 zhazha444 zhazha444 zhazha444 dende5 dende denden denden2 denden21 fenfen9 fenf619 fen619 fenfe9 fe619 sdf sdf sdf sdf sdf zhazh90 zhazh0 zhaa50 zha90 zh590 zho zhoz zhozh zhozho zhozho2 lislis lls95 lili95 lils5 liss9 sdf0ty987 sdft876 sdft9876 sdf09876 sd0t9876 sdf0ty98 sdf0976 sdf0ty986 sdf0ty96 sdf0t76 sdf0876 df0ty98 sf0t876 sd0ty76 sdy76 sdf76 sdf0t76 sdf0ty9 sdf0ty98 sdf0ty987 sdf0ty98 sdf6676 sdf876 sd876 sd876 sdf6 sdf6 sdf9876 sdf0t sdf06 sdf0ty9776 sdf0ty9776 sdf0ty76 sdf8876 sdf0t sd6 sdf06 s688876 sd688 sdf86