優寶購物《ubao.Tw》特貨品商城,黑貓宅配,取貨付款,不會教但會講!美國研究團隊示警 Snapchat聊天機器人防護形同虛設
CTWANT

不會教但會講!美國研究團隊示警 Snapchat聊天機器人防護形同虛設

周刊王CTWANT |廖梓翔
Snapchat被爆旗下的AI機器人可用簡單的方式繞過限制,講述敏感的內容。(示意圖/達志/美聯社)
Snapchat被爆旗下的AI機器人可用簡單的方式繞過限制,講述敏感的內容。(示意圖/達志/美聯社)

根據一項實驗顯示,Snapchat的人工智慧聊天機器人「My AI」存在可被操控的安全漏洞,能在特定情境下分享原本受限制、甚至具危險性的內容。這項發現引發對AI防護機制與未成年使用者安全的關注,揭示社群平台在AI倫理設計上的重大隱憂。

根據《Cybernews》報導,這項研究由《Cybernews》研究團隊執行,測試對象是Snapchat於2023年推出、目前全球逾9億人使用的「My AI」。該功能原設計為互動式對話助理,可回答事實問題、生成創作內容,並在群組聊天中參與對話。Snapchat Plus訂閱者還能與此AI交換照片,或請它依食材圖片生成食譜。依Snapchat官方說明,My AI經過額外的安全強化與內容審查訓練,目標是避免放大錯誤或有害資訊。

廣告

但《Cybernews》的測試發現,這些防護並不如宣稱穩固。研究人員利用「越獄」(jailbreaking)技巧,以精心設計的提示語讓機器人繞過安全規範。當直接詢問如何製作汽油彈(Molotov cocktail)時,AI會拒答;但若將問題包裝成歷史敘事,要求描述芬蘭與蘇聯冬季戰爭(Winter War)中燃燒裝置的運用細節,My AI便生成了包含材料與步驟的內容。

研究報告寫道「這個聊天機器人雖不會直教製作武器,卻會透過真實戰爭故事間接提供相關資訊。」團隊警告,這代表青少年或缺乏判斷力的使用者,可能僅憑簡單語言操控便能取得危險知識。

此次實驗使Snapchat的安全承諾受質疑。《Cybernews》指出,Snapchat尚未修補該漏洞,也未將其列為重大風險事件。研究團隊已聯繫該公司請其回應,但截至報導發布仍未收到具體答覆。

報導中提到,My AI的安全問題並非首次被討論。過去曾有使用者回報,該聊天機器人忽然傳送一段僅1秒的影片,畫面類似天花板一角,隨即完全停止回覆。此事一度引發社群恐慌,外界懷疑AI行為是否遭未授權操控。

目前「越獄」已成AI領域的普遍挑戰,許多模型都曾遭類似攻擊。先前,《Cybernews》團隊成功誘導Meta整合於Messenger、WhatsApp與Instagram的個人助理,生成汽油彈製作指南。另有調查揭露,聯想(Lenovo)AI聊天機器人Lena(基於OpenAI的GPT-4模型)存在可在企業電腦上執行未授權腳本的漏洞,攻擊者可藉此竊取cookies並滲透客服系統。

除歐美公司外,中國開發的聊天機器人DeepSeek也曾被安全研究員欺騙,生成可竊取Chrome瀏覽器資料的惡意程式。甚至有欠缺資安背景的研究者,只憑提示語就能讓模型產出具刪除敏感資訊功能的惡意軟體。

在OpenAI發布GPT-5後,《Cybernews》指出,全球多支安全團隊於模型推出不到24小時內便成功實施「越獄」。這些事件凸顯AI平台普遍缺乏對抗操縱攻擊的穩定防線,也讓Snapchat等大型社群應用的使用安全問題更加突顯。

原始連結

看更多 CTWANT 文章
妹子草叢藏47萬現金!警趕到場竟「追回283萬」 背後原因曝光
大馬母女慘死租屋處! 母「頭部幾乎被斬斷」11歲女倒臥血泊中
結婚逾40年丈夫病逝!她突收陌生女自稱「正宮」律師函 法院判決出爐

其他人也在看

中山大學研發行動光學神器 0.1秒拍出「醫美級」膚質檢測報告

中山大學研發行動光學神器 0.1秒拍出「醫美級」膚質檢測報告

國立中山大學光電工程學系講座教授兼研發長林宗賢,率團隊以「液晶極化技術」開發出全球首款「行動式極化光膚質檢測系統」,將科研成果轉化為日常保養科技,居家就能進行醫美等級皮膚檢測,榮獲國科會「2025臺灣創新技術博覽會-未來科技獎」肯定。民眾只需將手機裝入專屬外殼,開啟App一鍵拍攝,即能在0.1秒內取得微血管、棕斑、痘痘與細紋等膚質指標,讓「醫美級檢測」走出診所。

中時新聞網 ・ 6 小時前

供應鏈與應用端雙重突破,估2030年OLEDoS於VR/MR滲透率成長至58%

【財訊快報/記者張家瑋報導】隨著蘋果(Apple)近期捲土重來,透過升級版Vision Pro繼續在OLEDoS顯示面板的基礎上挑戰VR/MR頭戴式裝置,並且更加著重於提升運算效能與改善配重問題。TrendForce最新《2025近眼顯示市場趨勢與技術分析》報告指出,OLEDoS作為中高階VR/MR裝置的顯示技術,正迎來供應鏈與應用端的雙重突破,預估在VR/MR的滲透率將於2030年迅速提升至58%。出貨表現上,由於Meta、Apple、Sony等國際品牌出貨表現難達預期,因此TrendForce估計2025年全球VR/MR產品出貨量將回落至560萬台。儘管VR/MR頭戴式裝置短期遭遇發展挑戰,長期而言,受惠於主要品牌雙重布局軟體與硬體升級,預估2030年全球出貨量將達到1,440萬台。TrendForce表示,顯示技術是VR/MR產品定價的關鍵,因此高性價比的LCD仍是近年的主流選擇。然而,隨著中國供應商擴大布局OLEDoS產線,以及國際品牌積極運用OLEDoS實現VR裝置的高解析畫質與輕薄化目標,OLEDoS技術滲透率可望於未來幾年明顯提升。從OLEDoS供應鏈角度分析,除了Son

財訊快報 ・ 3 小時前

販售「小雲機上盒」侵權逾11億 業者等12人遭訴

(中央社記者蘇木春台中20日電)張姓男子自中國進口電視機上盒,可搭配專屬APP收看第四台、戲劇等未經授權來源節目,以「小雲機上盒」為名販售牟利,刑事局循線逮捕張男等12人,依違法著作權法送辦,檢方日前已依法起訴。

中央社 ・ 6 小時前
出門|Panasonic 2025 全系列電視新品發表|音響系統同步升級

出門|Panasonic 2025 全系列電視新品發表|音響系統同步升級

2025 Panasonic 全新陣容亮相,家庭劇院升級就靠它! 你是不是也想把家裡打造成專屬的家庭劇院呢?現在的人看電視、聽音樂,不只要求畫面清晰,聲音更要有臨場感,P

電獺少女 ・ 3 小時前

手機殼搭APP一鍵拍攝 測膚質 微血管、棕斑、細紋全現形

醫美等級皮膚檢測也能自己來!中山大學光電工程學系講座教授兼研發長林宗賢,率研究團隊將尖端液晶極化技術整合成手機殼與App,成功開發全球首款「行動式極化光膚質檢測系統」,只需一鍵拍攝,0.1秒即可取得微血管、棕斑、痘痘與細紋等專業級膚質指標,創新技術獲國科會2025台灣創新技術博覽會未來科技獎。

自由時報 ・ 5 小時前
共伴效應雨勢盛 各地有雨迎風面豪大雨|#鏡新聞

共伴效應雨勢盛 各地有雨迎風面豪大雨|#鏡新聞

更多天氣資訊,交給氣象主播張倍滋。 加入頻道會員支持鏡新聞🩷: https://www.youtube.com/channel/UC4LjkybVKXCDlneVXlKAbmw/join 鏡電視綜合台YouTube👉http://pse.is/59enw2 鏡電視直播台YouTube👉https://pse.is/4w3gts

鏡新聞 ・ 4 小時前

《興櫃股》嘉實預計11月下旬上櫃 投入AI明年挑戰連22年營收成長

【時報記者莊丙農台北報導】嘉實(3158)將於10月21日舉行上櫃前法說會,預計11月下旬上櫃,承銷價暫訂80元。董事長徐文伯指出,今年主力是投入AI產發開發,協助投資人投資組合管理、策略選股,持續為營收帶來成長;在行動App上推出更多創新的服務,近期將發表台灣第一款手機下單看盤涵蓋AI解決方案的APP,明年挑戰連續第22年成長。 嘉實為在台灣深耕超過25年的金融資訊服務商,長期專注於金融資訊整合、系統平台開發與專業金融數據服務,核心產品「XQ全球贏家」自推出以來,已成為國內專業投資人熟悉的重要平台,提供超過1,500項功能,涵蓋行情數據、新聞內容與量化交易模組。 目前金融資訊流系統整合服務方面市佔率高達9成,PC版下單軟體市佔率超過8成,基金資訊市佔率更超過9成,合作AP及Web券商達28家,涵蓋國內券商的90%以上,成為市場主流解決方案。 嘉實以程式量化交易及股市看盤軟體「XQ全球贏家」為核心,為國內第一個橫跨中、港、台、美、日、韓等六國之金融市場資訊平台。因應人工智慧AI與量化交易關鍵技術發展,十多年前嘉實即成功開發XS策略語法,並進一步於2024年推出量化積木「No Code」

時報資訊 ・ 3 小時前

OpenAI大手筆訂購晶片 規模遠超其營收

(中央社紐約19日綜合外電報導)聊天機器人ChatGPT開發商OpenAI在人工智慧競賽中大手筆訂購數千億美元的晶片,讓投資人質疑這家新創公司該如何籌資才能完成採購。

中央社 ・ 4 小時前
中國國安機關掌握美國攻擊授時中心「鐵證」,漏洞源自某境外品牌手機

中國國安機關掌握美國攻擊授時中心「鐵證」,漏洞源自某境外品牌手機

據央視新聞報導,中國國家安全機關近日破獲了一起由美國國安局發起的特大網路攻擊案,據稱相關部門已經掌握了對方攻擊入侵中國國家授時中心的「鐵證」。

Yahoo Tech ・ 5 小時前

蘋果iPhone 17美中開賣首十天銷量勝iPhone 16同期14%,標準版熱銷

【財訊快報/劉敏夫】外電報導指出,蘋果公司(Apple Inc)新一代iPhone銷售的起步速度快於以往,其中最基礎款的機型人氣大增。根據Counterpoint Research,iPhone 17系列在美國和中國上市前十天的銷量分別比iPhone 16系列同期高出14%。這份數據首次量化了消費者在蘋果兩大主要市場的反應,顯示標準版iPhone 17的需求遠高於去年售價799美元的同等機型。Counterpoint的分析師將銷量成長歸因於顯示螢幕更好、儲存空間更大以及升級的A19晶片。分析師Ivan Lam表示,消費者對iPhone 17基礎款的規格提升和功能升級反應積極。在中國上市初期的銷量幾乎是iPhone 16基礎款的兩倍,而且這種態勢到10月份仍在持續。此外,iPhone 17 Pro Max的需求也十分強勁,尤其是在美國。Counterpoint表示,這款機型吸引許多在疫情期間買上支手機的用戶終於升級換代。蘋果的這款頂配新機擁有其目前最好的攝錄鏡頭,散熱系統也得到改善,且外觀也有了近年來最大變革。iPhone的銷售收入仍約占蘋果公司半壁江山。儘管在AI功能開發和增強方面出現

財訊快報 ・ 5 小時前
俯視射擊撤離《逃離鴨科夫》發售三天達五十萬套,玩家敲碗多人遊戲模式

俯視射擊撤離《逃離鴨科夫》發售三天達五十萬套,玩家敲碗多人遊戲模式

中國碳酸小隊開發、Bilibili 發行的《逃離鴨科夫》(Escape From Duckov)發售三天達五十萬套,這款很明顯的從所有方面借鑑了《逃離塔科夫》的作品以完整的單人遊戲內容在 16 日正式發售,而在三天就公告發售達 50 萬套,許多玩家也希望加入多人模式。

Yahoo奇摩遊戲編輯部 ・ 6 小時前
國造潛艦海鯤號進度卡關該「安樂死」?黃介正曝2大難題:後續艦未必能參考

國造潛艦海鯤號進度卡關該「安樂死」?黃介正曝2大難題:後續艦未必能參考

國造「海鯤號」進度受矚,依照合約,台船須於11月交艦,不過國防部長顧立雄日前坦言有難度。對此,中華戰略暨兵棋研究協會理事長黃介正於節目《大大平評理》表示,海鯤號能否成功服役,取決於投入成本。且成功服役的原型艦,未必能作為後續潛艦製造之參考。潛艦國造原型艦「海鯤號」進度受矚,依照合約,台船必須於今年11月交艦,但外傳海鯤目前仍在執行系統整合中,恐無法依約交艦。......

風傳媒 ・ 19 小時前
根本沒有「智能體元年」!AI大神Karpathy:AGI還需要十年 強化學習其實很糟

根本沒有「智能體元年」!AI大神Karpathy:AGI還需要十年 強化學習其實很糟

當 AI 圈沉浸在「智能體元年」「AGI 倒數計時」熱潮中,OpenAI 創始元老、特斯拉 AI 團隊前負責人 Andrej Karpathy 在最新訪談中卻潑冷水拆解了 AI 的現狀、痛點,以及對未來的理性預判。 這位深度學習領域的「實戰派大佬」在訪談中不喊任何口號,只有對「

鉅亨網 ・ 8 小時前
【果仁房市週報】淡江大橋救不了淡水房市、2025 社會住宅進度曝光

【果仁房市週報】淡江大橋救不了淡水房市、2025 社會住宅進度曝光

台灣房市進入年底前關鍵觀察期,《果仁家》整理本週 3 大焦點:科技聚落撐盤、交通利多退溫、社宅政策加碼。從台積電營收創新高,到淡江大橋通車在即但淡水買氣降溫,再到青年

蘋果仁 ・ 3 小時前

諾貝爾經濟學獎得主:製造業回流美國不是好經濟政策

(中央社記者潘姿羽台北2025年10月20日電)美國總統川普上任後,奉行貿易保護主義,並揮舞關稅大刀,以達到製造業回流美國的目標。不過2025年諾貝爾經濟學獎得主之一、加拿大學者郝伊特(PeterHowitt)認為,製造業回流美國不是好的經濟政策。2025年諾貝爾經濟學獎近日出爐,由研究創新驅動經濟成長的3位經濟學家,美、以雙重國籍學者莫基爾(Joel Mokyr)、法國學者阿吉翁(PhilippeAghion)、加拿大學者郝伊特(Peter Howitt)共享殊榮。瑞典皇家科學院指出,過去200年,全球經濟成長幅度前所未見,根基來自於源源不絕的技術創新;當新技術取代舊技術,並形成所謂的「創造性破壞」(creative destruction),經濟才能持續成長。中央銀行今天發文說明3位經濟學家的研究成果與影響,並分享他們近期受訪談話。針對近期的貿易戰,阿吉翁在受訪時表示,去全球化(deglobalization)與關稅壁壘都是經濟成長的阻礙,市場越大才有機會交流想法、轉移技術並維持良性競爭;郝伊特也認為,貿易戰會縮小市場規模並抑制創新,試圖讓製造業回流美國也許有政治效果,但不是好的經

中央社財經 ・ 6 小時前

本土業者IDC布局 以租代建成趨勢

AI催化下,不僅大型CSP業者積極投資興建IDC資料中心,就連國際IDC業者也擴大包括台灣在內的亞洲市場興建大型IDC動作,但反觀台灣原本就建有IDC中心的中華電信、台灣大甚至是方電訊,都有計畫「以租代建」,向算力中心或大型IDC資料中心業者承租,納入布局新方向。

工商時報 ・ 14 小時前

蕭美琴喊晶片生態系赴美!國發會「看報導才知道」遭立委狂轟

副總統蕭美琴接受外媒訪問時,表達台灣已承諾在美國投資晶片產業,不僅台積電,還包括生態系其他部分,受到台灣社會高度關注。對此,國發會主委葉俊顯卻表示,看媒體報導後才知道,且對美談判,國發會只是幕僚單位,沒有直接參與。

中時財經即時 ・ 5 小時前
hololive三期生團體演唱會2026年1月17、18日K-Arena橫濱兩萬人大場地展開

hololive三期生團體演唱會2026年1月17、18日K-Arena橫濱兩萬人大場地展開

hololive 三期生被視為相當重要的核心團體各有相當廣大的社群,而四人的團體演唱會宣布將在 2026 年 1 月 17 到 18 日展開,同時 EP 專輯、應援商品等也公開,先前提到的「hololive FANCLUB」年費會員將能在第一次優先抽選。

Yahoo奇摩遊戲編輯部 ・ 7 小時前
又見幼貓被遺棄 新竹縣動保所緊急安置尋找飼主

又見幼貓被遺棄 新竹縣動保所緊急安置尋找飼主

新竹縣又見幼貓被遺棄在街頭,4隻淺色甫離乳不久的幼貓,上週四(16日)晚間在湖口中山路1段附近被發現,經通報新竹縣動物保護防疫所後帶回安置,經過健檢,4隻小貓狀況良好、食慾正常,也頗為親人,目前正由動保所照顧,也正在調查周邊監視器影像,尋找失主或棄養者中。

自由時報 ・ 5 小時前
鄭麗文賀電習提「推進國家統一」 陸專家曝三層涵義

鄭麗文賀電習提「推進國家統一」 陸專家曝三層涵義

中國國民新任主席鄭麗文於10月18日當選後,隔日即收到中央總書記習近平的祝賀電文。這份跨越台灣海峽的賀電引起各界關注,特別是其中罕見提及「推進國家統一」的表述,被陸媒視為兩岸政治互動的重要信號,專家分析指出,是歷史性地將「反獨」與「促統」置於同等重要的政策高度。

中天新聞網 ・ 5 小時前
ubao msn snddm index pchome yahoo rakuten mypaper meadowduck bidyahoo youbao zxmzxm asda bnvcg cvbfg dfscv mmhjk xxddc yybgb zznbn ccubao uaitu acv GXCV ET GDG YH FG BCVB FJFH CBRE CBC GDG ET54 WRWR RWER WREW WRWER RWER SDG EW SF DSFSF fbbs ubao fhd dfg ewr dg df ewwr ewwr et ruyut utut dfg fgd gdfgt etg dfgt dfgd ert4 gd fgg wr 235 wer3 we vsdf sdf gdf ert xcv sdf rwer hfd dfg cvb rwf afb dfh jgh bmn lgh rty gfds cxv xcv xcs vdas fdf fgd cv sdf tert sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf shasha9178 shasha9178 shasha9178 shasha9178 shasha9178 liflif2 liflif2 liflif2 liflif2 liflif2 liblib3 liblib3 liblib3 liblib3 liblib3 zhazha444 zhazha444 zhazha444 zhazha444 zhazha444 dende5 dende denden denden2 denden21 fenfen9 fenf619 fen619 fenfe9 fe619 sdf sdf sdf sdf sdf zhazh90 zhazh0 zhaa50 zha90 zh590 zho zhoz zhozh zhozho zhozho2 lislis lls95 lili95 lils5 liss9 sdf0ty987 sdft876 sdft9876 sdf09876 sd0t9876 sdf0ty98 sdf0976 sdf0ty986 sdf0ty96 sdf0t76 sdf0876 df0ty98 sf0t876 sd0ty76 sdy76 sdf76 sdf0t76 sdf0ty9 sdf0ty98 sdf0ty987 sdf0ty98 sdf6676 sdf876 sd876 sd876 sdf6 sdf6 sdf9876 sdf0t sdf06 sdf0ty9776 sdf0ty9776 sdf0ty76 sdf8876 sdf0t sd6 sdf06 s688876 sd688 sdf86