AI倫理

Deepfake-深度造假報導(上)

在這波疫情中出現不少以AI生產的虛假訊息與圖片,意圖製造社會恐慌。如果以後出現用深度造假技術製造各種假影片,是否會造成更大恐慌,檢調與防疫單位有辦法處置防範嗎?這是即將發生的風險,值得大家共同關注。


Deepfake
深度造假的現象與法律問題

本文嘗試針對Deepfake,淺談該技術對社會的衝擊、觸及之法律影響層面,以作為後續深談相關議題之導讀。

一、何謂Deepfake(深度造假)?

        近年人工智慧的蓬勃發展,已使電腦可精準解釋輸入之數據,亦能利用經驗紀錄和重複學習實現過往只有人類才能完成的特定目標,並自動改進,且若輸入之數據具有高品質和大數量,結果會更加準確,這也使人工智慧的應用層面於各領域有更廣闊的應用,比如智慧醫療漸趨成熟。但並非所有應用都以精進產業為目標,Deepfake 的出現則為最好的借鑒。

        Deepfake 的爆發始於201712月,有一匿名人士以「Deepfake」為化名,並上傳以名人為主角的色情影片於Reddit色情網站。此舉不僅大幅侵害該名人的個人名譽、隱私、心靈,也從此使Deepfake 也可譯為「深度造假」,成為以AI為基礎製作造假影片的形容詞,並有相關應用程式相繼出現,如DeepNude提供免費和收費版本,可讓使用者將女性的圖片更改為完全裸露的外觀,成為成人娛樂中「報復式色情」(revenge porn)的幫兇,也比如FakeAppDeepfake 的應用拓展至詐欺、勒索、假新聞與政治等領域

        Deepfak的出現並非偶然,但需要更複雜的技術方能達成。其技術內涵乃是以特定AI為基礎,再加上深度學習(deep learning)的生成性對抗網路(GANS),使AI能更聰明有效地針對輸入數據適應和學習。而有了這種技術後,任何人都有機會利用網路上可搜集的資訊製作Deepfake,最終可使某人於影片中呈現未曾做過的事,且因過於逼真,觀看者難以辨別影片的真假,因而有「深度造假」之稱

        又如上所述,根據研究顯示,即使所有Deepfake 影片中有96%有關非自願的色情,但隨科技進步,Deepfake 觸及的範圍已擴至政治、國際關係,而使Deepfake 的意涵有更廣泛的解釋,指「以數位操縱任何聲音、圖像或影像,使其模仿某人或使其看起來好像某人做了某件事,其逼近真實的程度,會使觀察者難以或無法辨別真假」,並且為整體社會乃至世界帶來難以忽視的潛在社會、政治風險。而為降低科技應用風險,並強調AI發明與使用倫理,各國立法者尤以美國為首,正致力於解決Deepfake 所衍生的爭議與侵害,以下首先舉例說明Deepfake在哪些層面帶來的影響及相關法律爭議或行動。

二、影響範疇

1.     成人娛樂產業

        如前所述,Deepfake最早被應用於製作色情影片,且已有多位女星受害,比如最早有Gal Gadot於影片中與繼兄弟發生性關係的亂倫影片,爾後又有以Scarlett JohanssonTaylor SwiftEmma WatsonNatalie Portman等主角的假性愛影片流出。除了西方女星外,根據研究顯示,在非主流色情網站上,亦有三分之一的影片是以K-pop歌手中的女性為臉替換對象,其中我國至韓國發展的周子瑜亦為受害者之一這些與色情相關的事件以及其他類似事件都已展示有心人士可如何以科技仿冒真實,並用以勒索、恐嚇、侮辱或誹謗

2.     政治

        前亦有述,Deepfake於成人娛樂產業的發展,除了重大的影響個人權益外,亦逐漸影響民主社會的運作,比如以假資訊干預選舉和國家安全,削弱公民對國家、候選人的信任,乃至影響國際關係。

        有關的例子包含假影片中,Facebook首席執行長Mark Zuckerberg接受CBSN的採訪,並吹噓擁有數十億Facebook使用者的數據,而這些數據將有機會干預當時中期選舉和2020年選舉另一例是有關Deepfake的演示,為Jeffrey Epstein和麻省理工學院媒體實驗室(MIT Media Lab)於所舉辦的EmTech會議上,以假影片面試俄國總統普丁Vladimir Putin),以此展示Deepfake技術正快速發展的狀態

        同時,致力於宣導媒體素養及公眾資訊識別,麻省理工學院為由MIT高級虛擬化中心製造了Deepfake影片,並於阿姆斯特丹藝術展覽以「月球災難事件」(In Event of Moon Disaster)為題展出。該影片呈現了美國前總統理查德·尼克森(Richard Nixon)於1960年代朗讀了講稿人比爾·薩菲爾(Bill Safire)為他寫的「登月事故演說」,宣布登月的三名太空人在登月任務中身亡。此影片亦為Deepfake 技術之展現,但原始影片是由前總統辭職演說擷取,並將原始影片切割剪輯,再搭配AI深度學習和聲音合成技術,將配音員與尼克森的聲音融合,以此訓練AI直到可以用尼克森的聲音完成整篇登月事故演說」講稿

        更多的案例也有如美國前總統Barack Obama或是Kim Kardashian等名人發表未曾進行過的演說影片。簡言之,Deepfake 的出現已影響人類的生活,而在網路無弗屆的情況下,這些造假將不再限於美國境內發生,更有機會影響全球關係,不可不慎。

3.     死者之再現:

        Deepfake技術不斷發展,除了造假在世的人們的相關影片外,亦可將已過世的人們再現於世。

        與藝術表演者相關之近期有名的案例為2019929日,NHK首次透過【NHKスペシャル】節目公開〈靠AI復活的美空雲雀(AIでよみがえる美空ひばり,暫譯)〉,復活「AI美空雲雀」,爾後又於201912月的NHK紅白歌合戰大展成果。此「AI美空雲雀」乃採用YAMAHA的「VOCALOID:AI」聲音合成技術,並主要以深度學習的方式,大量搜集分析美空雲雀生前演唱的音檔,從中找出美空雲雀歌聲及演唱方式的波形特徵,最終打造出一套只要輸入一段符合其音域範圍的樂譜,就可以近似完美地仿造出美空雲雀歌聲的效果。至於影像呈現的部分,則是透過演歌歌手天童芳美(天童よしみ)模仿美空雲雀演唱時的動作,讓電腦進行路徑追蹤,掌握「AI美空雲雀」演唱時的肢體動作,再加入電腦繪製技術完成美空雲雀再登舞台演唱新歌之作

(編譯者:高慧馨)


本篇介紹了何謂Deepfake(深度造假)與影響範疇,下篇將聚焦在影響權益及其他國家所採取的行動,而我們又該如何應對?
下篇:https://www.aili.com.tw/message2_detail/61.htm