東森深度周報／眼見為憑？AI假影片衝擊國安、侵害人權誰來管

近年AI生成影片爆紅，從娛樂惡搞到政治宣傳，而且越來越逼真，從創意角度看，這無疑開啟了全新的影像時代。但專家警告，這些幾可亂真的AI影片，背後潛藏民主風險與社會信任危機，試想如果總統、立委的影像被用於認知作戰，散播假消息，或新聞主播的畫面被製造成重大事故的假新聞，後果不堪設想。面對這股浪潮，台灣該如何在「創意自由」與「防止濫用」之間，劃出清楚界線？

一首〈沒出息〉成為全民現象，立委王世堅這段迷音紅遍兩岸，最早其實是個模仿大賽，從手勢到表情連扁個嘴，一段段模仿影片瘋傳，維妙維肖。這樣的模仿連可愛的嬰兒也做得到，或許到這裡你才看出來，啊？這些模仿影片是假的嗎？

Introversify的AI教室創辦人VT：「餵王世堅的影片，然後你上傳自己的照片就可以了。因為之前我們如果是這樣子的AI影片，像表情還有動作，這些都會很粗糙，可是你現在看，他們所有的細節，你在那邊甩頭，頭髮都會跟著那邊轉，這個房子的光影、房間的光影，它都會去照到，都會很自然的感覺。」

這樣的影片叫Deepfake深度偽造，以AI製作的人體圖像合成技術，來自馬來西亞的AI創作者VT解釋，Deepfake過去早就有了，不同的是製作門檻變低、更快、更簡單。

Introversify的AI教室創辦人VT：「如果是去年的話，我們可能還要去訓練一些AI模型，這樣子的技術門檻就很高。可是現在的話不用，你只要一張照片，然後跟他說請讓這張照片說什麼話，然後就搞定了，要拍你的照片，我們要在比較素的一張背景上，Deepfake一張照片就能做。」

步驟一，取得相片，可以親自拍，也能到臉書、IG相簿下載，再上傳到AI影片的生成網站，這種網站現在到處都是。步驟二，輸入內容，不用指令不用程式碼，用人類的溝通方式就可以，再去下載一個適合的聲音，素材都準備好。步驟三，生成，5分鐘內就能產出。

步驟超簡單，但相對地，有人要拿你的相片製作不法影片也同樣容易，譬如以電視記者的照片，製作成詐騙釣魚影片。

Introversify的AI教室創辦人VT：「我覺得管制可能是沒辦法管，它這個東西是沒辦法管，因為技術門檻太低，然後低到就是你可能每一個月30美元的訂閱，就可以去做這些事情。可是我們知道，在國外像川普、馬斯克這些人，其實被換臉的情況很嚴重。」

AI影片：「爸爸別來無恙，（中分還是梳得這麼飄逸啊小賴）。」

總統賴清德跟川普上演鐵達尼號劇情，這是惡搞創意還是政治醜化？今年10月的國民主席選舉，候選人郝龍斌被製作AI擁吻影片，引爆爭議，當選的鄭麗文也被製作大量在解放軍前呼口號的影片，若Deepfake被有心人士運用在認知作戰怎麼辦？

台大電機系教授李宏毅：「所以就會變成說，我們進入一個看到影片都是真假難辨的世界，我們可以產生非常真實的影像，但也有可能找出反制的方法，比如說能不能讓AI自己意識到，如果是產生某一個知名人物，它就不要生成。」

目前各國已經開始著手管制Deepfake應用，美國加州通過法案，禁止Deepfake在選舉前後180天製作相關影片；英國針對Deepfake性影像進行刑事處罰；歐盟的AI法則要求Deepfake要加註浮水印。

Introversify的AI教室創辦人VT：「我們這些創作者自己實驗過，如果你特地標註這篇貼文，或這個影片是AI生成，流量會非常低，所以還是有很多創作者會算了。」

立法委員葛如鈞：「歐盟做了AI基本法，美國則推動行政命令，針對AI盡可能保護人的基本權利，同時又要推進它的發展。可是台灣卻沒有一部完整的AI基本法。」

目前台灣AI基本法草案仍在立院討論中，AI假影片的亂象，在台灣仍依照現有法規如社維法、兒少法、散布不實資訊等條款處理。

立法委員葛如鈞：「相關法規在不同法案裡面可能都有一些，可是每一個方向不同，有的是保守，有的是開放，就會使得我們的政府部會變成千頭馬車。」

專家呼籲，AI發展太快，立法速度似乎已經趕不上，在人工智慧時代，我們無法阻止科技繼續進步，只能自己多留份心，現在眼見不一定為憑了。

更多東森新聞報導
新羚能源科技以ForwardAI 重新定義儲能價值 開啟表後儲能智慧化新時代
從媒體採購到策略夥伴 AI正重塑媒體代理商的核心價植
AI巡防系統立大功！中和警逮毒品通緝犯 查獲「喪屍毒品」