AI變造影像幾可亂真 郭定緯籲嘉市警局建立辨識標準防誤罰

CNEWS匯流新聞網記者王昭濱／綜合報導

嘉義市議員郭定緯今（13）日於議會質詢中指出，AI技術進步快速，從文字、聲音到影像生成都已普及化，過去詐騙多仰賴人力與話術，如今AI可模擬聲音、生成逼真照片與影片，讓假訊息、假畫面更難分辨，今年10月份，警方更在嘉義市破獲AI變聲詐騙機房，顯示科技濫用問題日益嚴重。

郭定緯在質詢中並秀出一張以AI生成的他與警察局長陳明志「騎機車雙載未戴安全帽」的照片，引起現場府會人員大笑，但這張照片卻也點出AI時代，影像真實性與防偽機制已成治安新課題。

郭定緯指出，AI的應用雖能提升效率，但若被惡意利用，將造成嚴重社會風險；而近期有民眾懷疑遭AI變造照片檢舉違規，雖警方尚未查獲確定案例，但目前多以人工比對與檔案屬性檢查為主，顯示現行制度仍不足以應對AI生成影像的挑戰。

他強調，AI技術已可生成全新畫面，包含模擬天氣、光影、角度，甚至製造出動態影片效果，若這類影像被不當使用於檢舉系統，將可能導致無辜民眾被誤罰，因此郭定緯建議警察局應建立一套正式的「AI影像真偽鑑定流程」，並納入科技化審查工具，以提升辨識效率與準確性。

「AI造假的潛在風險不僅限於交通檢舉，也可能波及刑案現場影像、詐騙影片及性影像犯罪等領域。」郭定緯表示，警察局應建立系統化教育訓練，讓第一線執法人員具備辨識AI影像特徵與防偽能力，以防誤判與冤罰。

郭定緯也建議嘉義市察局可在現行「AI智能巡警系統」基礎上，加入影像真偽辨識功能，使AI輔助不僅能協助巡邏與偵防，更能自動偵測疑似造假畫面。他呼籲，警察機關應以前瞻態度迎接AI浪潮，將AI科技從「被動防假」轉為「主動識假」與「智慧應用」，在保障民眾權益的同時，也能提升警政效率與科技執法能量。

陳明志對此表示，目前嘉義市尚未接獲明確AI偽造檢舉案件，將持續研究防偽辨識技術、加強人員訓練，並研議將「AI影像辨識防偽」納入明年度科技應用項目，期望朝非六都首座AI科技偵查城市目標邁進。

照片來源：郭定緯辦公室提供

更多《CNEWS匯流新聞網》報導

交友軟體勾12歲少女害懷孕產女 超渣爛男不和解又拒認小孩

民眾2026選舉中彰雲投提名6人 台中有2區待整合競爭激烈

【文章轉載請註明出處】