在臺灣，政府才剛要（慢了）正視假新聞 (fake news)，但深度偽造（deepfake，簡稱深偽）技術已成熟。
技術一：文字為基礎的技術，讓真人說假話
連結：論文與展示影片 https://youtu.be/0ybLCfVeFL4
技術二：眼見不能為憑之「變臉」
連結：珍妮佛勞倫斯的「史蒂夫布西密」化
先看第一支：https://youtu.be/VzhN7LyNJHs
再看原版：https://youtu.be/9Oqor9NVm4Q
之前看過馬克祖克伯被深偽的影片，但這個被「史蒂夫布西密」化的珍妮佛勞倫斯，表情較多，看起來有點厲害，但是當頭部有較大的轉動幅度時，仍然有破綻。
「幹嘛發明這種東西來騙人！」
它在娛樂上或許是有些潛力的，例如以下兩種應用：
名人說多國語言讓廣告更具說服力(？)：https://shorturl.at/lqNW7 (貝克漢）
讓已逝的名人在博物館導覽自己的作品：https://shorturl.at/lsuRY (達利)
我們目前看過之前競選時照片的造假有幾種手法，例如裁切、抹除、合成等。這種等級的假新聞需要幾個步驟便可以進行識別。
香港新聞工作者區家麟提出識別假新聞的幾點基本步驟，概括如下：
(此步驟引用自維基百科：https://shorturl.at/jpAKP）
- 設立預警系統：不輕信令人嘩然的圖片或文章。
- 訊息源頭要清楚：判斷來源的可信度。
- 不要只看標題：可能文不對題，要看完內文才轉發。
- 留意評論：參考讀者留言澄清錯誤。
- 留意日期：留意報導日期，是否舊聞新推。
- 搜尋相片：利用Google圖片搜尋，看看是否舊相亂用，或文不對圖。
- 有片未必有真相：要判斷片段前後發生甚麼事。
- 調查及統計資料要細心讀：避免統計誤用。
- 小心斷章取義：要留意前文後理，撮錄有無扭曲。
但深偽訊息有哪些手法？什麼管道？其動機為何？NiemanLab (哈佛尼曼基金會之尼曼實驗室）模擬了七種情境，或許它們偽造得難以分辨，但我們看到足以影響判斷、左右決策或爆炸性的訊息時，可以深思熟慮一下它的真實性。還有，別把自己封在過濾氣泡（Filter Bubble）中，活在同溫層(echo chamber)裡。
這篇文章中模擬的七種情境如下，它可能如何運作，可以參考以下翻譯的全文。雖然個人覺得模擬的情境有些作者的政治立場，但是參考其進行沙盤推演，是防禦的第一步。
七種情境 – 從偽造的誹謗錄音檔到選民恐嚇，再到想像中的新聞腐敗 – 顯示了可能即將發生的各種錯誤訊息破壞。
作者：Nicholas Diakopoulos是西北大學傳播研究的助理教授。Deborah Johnson是弗吉尼亞大學應用倫理學榮譽教授。
原文出處：https://www.niemanlab.org/2019/06/how-could-deepfakes-impact-the-2020-u-s-elections/
（翻譯若有錯誤，敬請指正。小部份為了讓語意完整進行補述）
製作深度偽造的新技術正在迅速發展並變得更容易取得，它能讓使用者製作引人注目的影片和音檔剪輯，顯示他們從未做過或說過的話。例如，可以使用者合成個人的聲音，或是在影片中將人的臉部換到另一個人的身體上，僅或者透過改寫錄音文字稿來改變影片受訪者的話語。錄製的視聽媒體變得越來越具有可塑性，並且方便編輯到讓影片與文字稿幾乎一模一樣。該技術在娛樂和教育方面提供了許多潛在的好處，例如多語種廣告活動，或把已逝藝術家的生活帶回博物館的。但它也可以挑戰聽覺和視覺的真實性，並讓有心人士能夠製造假訊息。深偽技術有可能在新聞環境中造成嚴重破壞，尤其是當音檔和影片被視為實際發生某種事情的證據。
眾議院議長南希佩洛西（Nancy Pelosi）廣為流傳的片段之所謂的「廉價假冒(cheapfake)」，已經證明了低技術操縱影片有可能找到現成的觀眾。更先進的技術為這種假訊息的個人化創造了全新的速度、規模和潛力。本文的目標是激發對這些新興技術的道德和治理的反思。具體而言，我們專注於在2020年美國大選中使用這些技術，並尋求鼓勵各利益相關方就潛在回應進行辯論。社交媒體平台、記者、技術開發者和政策制定者應該做些什麼來確保民主進程的結果不會受到深偽訊息的負面影響？為此，我們開發了一系列情境，描述了2020年選舉中深偽技術的一連串可能用途（濫用或不道德的用途）。這些推測性情境探討了當前最先進的技術如何被具有影響選舉結果的各種動機的行動者所部署。這些情境描述一群豐富而複雜的傑出人物在這樣的深偽技術下，如何與人類行為互動。
這些情況產生了一些道德問題，並指出在選舉的各個方面，其中可能需要或有助於保護2020年選舉的完整性的規範、政策、法規或技術干預。這些情境故意包括各種不同的參與者（候選人或競選活動員，PAC或外國政府等外部實體），對這些參與者的動機（支持候選人、傷害競爭對手、破壞民主過程）、媒體形式（音檔，影片，圖像）、階段（早期與晚期）、發佈管道（社交媒體平台、podcast、聊天應用app）以及影響選民的機制（透過詆毀候選人的聲譽、誇大候選人的觀點、建議候選人從事腐敗、提供候選人虛偽的證據、煽動競選活動的基礎、恐嚇選民、破壞或攻擊選舉過程等等。從道德角度來看，情境中描述的所有情況都存在問題，因為它們涉及欺騙。然而，這些各式各樣製作和/或散佈深偽新聞的演員，他們試圖造成傷害，而這樣的欺騙應如何抵制。首要問題是，這些異變如何影響情勢的倫理。我們開發了這些情境，盡量使它們能似是而非地描述，您可能會合理相信可能發生的事情（不僅僅是可能）。那麼，你面臨的挑戰是，深思熟慮並讓它們（說服你）的可能性變小。現在可以做些什麼 – 建立規範、規則、政策等 – 以避免最壞的結果。以下會有一段情境描述，接著一段反思。我們很樂意收到你對我們是否實現目標的回饋。
第一種情境
一個小型退伍軍人組織希望看到Seth Moulton贏得民主黨初選，因為雖然他不是唯一具有軍事經驗的候選人，但他是唯一一個具有重要戰鬥經驗的人，而且唯一一個使退伍軍人問題成為他的核心組成部分的人。該組織成為一個政治行動委員會（PAC）並籌集資金為Moulton製作宣傳影片。該影片包含影片剪輯和配音的組合，可以證明他的勇敢。其中一個片段是對莫爾頓事件的合成描述，當時莫爾頓英勇地挽救了他的幾個排的成員的生命。影片發佈在YouTube上，沒有任何跡象表明一部分是合成的。數千人觀看影片; 數百人發表評論。從評論中，很明顯，一些觀眾認為該影片是由參加此次活動的記者拍攝的真實影片。其他評論包括莫爾頓排的士兵的投訴，他們聲稱這些描述誇大了所發生的事情。由於這些評論，影片具有混合效果：有些人確信莫爾頓是一個真正的英雄，他們希望在總統會是像這樣的人。其他人，包括許多有線電視新聞記者，都關注負面評論和影片的欺騙性。
反思
這說明了一種情況，其中PAC使用深度影片來促進候選人通過「增值」他的軍事記錄來提拔候選人。它在競選早期使用，所以有時間做出反應。這種情況提出的最突出的道德問題之一是，是否應該（以及最終如何）披露影片的合成性質。這個情境很複雜，因為只合成了影片的一個組成部分。另一個可能更微妙的問題是與候選人記錄的誇大程度有關，特別是在候選人未同意的情況下。誇大候選人的資格一直是選舉中的一個問題，但是深偽技術擴大了這樣做的可能性。
第二種情境
在唐納川普和伊麗莎白沃倫之間的2020年大選之前三天，這場競爭已白熱化，獲勝者在很大程度上可能會歸結到投票率。川普顧問制定了一項戰略來獲得那些心懷不滿的白人選票。競選工作人員在與國會黑人核心小組的一些成員舉行的閉門會議，合成了沃倫的深偽影片，並將其發佈在Twitter和YouTube上。在手機品質的影片中，顯示她說了貶低和仇恨美國白人的事情。在幾個小時內，沃倫連同其他人公開宣稱該影片不實地描述是假的。美國有線電視新聞網和MSNBC迅速宣傳該影片可能是假的。然而，它已透過社交媒體病毒式地傳播，並由釣魚或機器人帳號推動並進一步擴大。該影片激怒了那些原本心懷不滿的人，這些人有些不知道影片的內幕，或者他們根本不在意真假，但是這樣的深偽資訊卻刺激他們轉向投票給右派。
反思
這說明了一種情況，即競選工作人員透過歸咎於她的極端觀點來煽動競選活動的基礎，從而傷害對方候選人。平台在這裡扮演著不同的角色，作為散佈者和放大器，在此說謊也在此揭穿。這種情況描述了對使用深偽技術的一般關注 – 也就是說，一個候選人（和/或他們的支持者）將使用它們來歪曲競爭對手。此外，歪曲競爭對手可以激勵候選人的支持者。該情境還指出了抵禦欺騙影響的挑戰，特別是在競選活動後期使用時。在過去，候選人只是曲解他們的競爭對手，但是深偽技術可以為這種錯誤的表徵，讓它看起來更真實可靠。
第三種情境
大選已經歸結為Pete Buttigieg和唐納川普兩位候選人。雖然川普享有強大的福音派支持，但Buttigieg很難獲得福音派的支持。他是一名天主教徒，現在是一名執教的聖公會教徒，並在他的競選活動中強調了他的基督教信仰。特別是，他一再提到他與同性伴侶的婚姻使他成為一個更好的基督徒。選舉前六週，共和黨內部的民意調查開始顯示，一小部分福音派人士正朝Buttigieg邁進。在選舉前十天，一個深偽影片出現，其中包括一些男人的證言，他們說他們與Pete Buttigieg市長在婚後發生過性關係。一個保守的PAC製作了影片並透過貼文將其洩露給了一些福音派團體，他們使用假帳號向他們在Facebook的封閉群組發佈。其中一篇貼文說「哇，看看我發現了什麼 – 這傢伙怎麼能說他是基督徒？」。來自福音派和其他教會的幾位宗教領袖向他們的會眾和追隨者譴責Buttigieg。
反思
與其他一樣，這種情況說明了如何透過歪曲候選人來傷害候選人。然而，在這種情況下，責任方（候選人）是未知的，策略是讓候選人變成偽君子，而不是顯示候選人本人說或做某事，這深偽資訊由一些人發表聲明，好像他們是這些行為的真實證言，而沒有其他證人。深偽資訊的分佈僅限於少數人（封閉群體的成員），這表明即使一開始分配規模相對有限，深度偽造也會產生重大影響。實際上，透過這種分配機制，要抵消這種影響的方式，受到缺乏大眾可觀察性的挑戰。
第四種情境
在2020年大選前兩週，愛荷華州，密歇根州和威斯康星州的非裔美國選民收到的電子郵件，貌似來自當地民主黨的欺騙。電子郵件按名稱對每個收件人進行尋址，並告訴他們投票地點的位置。它還包括一個個人化的嵌入式影片，影片中 Al Sharpton 指名道姓對其進行解釋說，有人試圖透過關於其所在州的投票地點的假訊息來破壞選舉，他鼓勵選民在投票時使用電子郵件中提供的訊息。但其實這影片是合成的，投票地點的位置訊息是假的。在選舉日，一些選民因為選民登記的位置錯誤而被拒之門外，直到選舉結束後才知道這件事的來源。註：Al Sharpton是一位美國非裔美國人浸信會牧師，民權運動、社會正義運動家，電台及電視節目主持人 。 在2008年美國總統選舉，他是歐巴馬的支持者之一 儘管被認為是民權運動的一大重要領袖之一，但他的社會言論常引起爭議，反對者認為他煽動黑人的種族主義。此外，他是少數公開支持同性婚姻的黑人教會領袖。(譯者補充：維基百科）
反思
這種情況與大多數其他情況不同，因為這種情況並不是用來攻擊或支持某一特定候選人，而是透過干涉個人行使投票權的自主權來破壞民主進程。它顯示了如何使用深偽技術來破壞選舉的完整性。與其他情境一樣使用了欺詐的行為，但這次不是改造候選人，而是改造有影響力和公認的人物所聲稱的內容。這種深偽技術利用了這個人物的面容，來加強對欺騙性信息的信任，即使他們是一個公眾人物，也會圍繞在使用個人的複本(偽造的）提出關於承諾、財產權和宣傳權的複雜問題。
第五種情境
事情正在升溫，來自民主黨提名的眾多競爭者的競爭很激烈。伯尼·桑德斯（Bernie Sanders）正在愛荷華州和內華達州進行大規模的競選活動，這是他最早舉行的兩場初選，而他知道自己需要贏得這場競賽。桑德斯的競爭對手決定洩漏桑德斯的合成音檔說一些貶低愛荷華人的事情，音檔裡將他們稱為「鄉巴佬和鄉下人」，這是他在內華達州競選活動中遇到的一小部分墨西哥裔選民。音檔片段由一位匿名博客上傳到Tumblr，他聲稱他希望全世界都知道「真正的伯尼桑德斯」，但擔心會對自己和家人進行報復。剪輯幾段在左右兩派所關注的 podcasts 上播放。桑德斯的競選活動能夠完整記錄內華達州所謂的事件，證明他從未說過這些事情。主要媒體機構對這些剪輯片段進行了揭穿，但它仍繼續在網上和一些較小的Podcasts上流傳。
反思
在這種情況下，通過暗示候選人不是他聲稱的那個候選人來匿名製作和發佈音檔以傷害候選人，因為他說出了貶低他公開支持的群體的話。該案件可能被視為使用audiofake歪曲候選人的簡單案例; 但是，這種情況涉及匿名，並提出了一個關於匿名何時合法以及應如何處理匿名訊息的問題。這種情況也可能在某種積極的情況下被看到，因為真正的錄音被用來對抗假錄音檔。然而，很難說真實錄音是否可以有效抵消假錄音檔的影響，因為，聽眾將如何知道哪些是真？哪些是假？
第六種情境
這是一場緊張的比賽。一些關鍵的擺盪地區投票率可能會有所不同。大選前兩天，外來勢力發起了一場運動，以壓制主戰場的某些確定選民人口。他們向目標個體發送帶有假合成圖像的欺騙性短信。消息說，如果他們星期二去投票，就會在網上公開發佈給他們的朋友和家人一些性狂歡的個人照，並附上了圖片。這些圖像使用數據庫來合成，該數據庫使用從其Facebook頁面或Instagram帳號中刮下的目標人物的照片來交換面容。他們足夠令人信服地恐嚇和強迫某些人不要去投票。一些人聯繫警方或他們的手機提供商，但是欺騙性的消息一直持續到選舉日。由於沒有人知道有多少選民可能受到影響，這一事件破壞了公眾對選舉合法性的看法。
反思
在這種情況下，我們看到外來的演員以強有力的方式干擾競選活動。深偽訊息不是為了傷害或支持候選人; 相反，它表面上是針對選民進行膚淺的壓制，因為受影響的選民人數可能很小。但是，一旦公眾意識到這樣的活動，更廣泛的影響將是，讓選民同時以其難以理解的影響程度，讓他們對選舉的合法性產生懷疑。除了削弱對選舉結果的信任之外，這個情境還顯示受操縱的視覺圖像如何威脅個人，並在私人通信管道中遠離公眾觀察。像所有其他情境一樣，這個情境涉及欺騙。
第七種情境
這是喬拜登和唐納川普之間第一次總統辯論的早晨。拜登在被評為明顯的贏家後，正積極被媒體關注。美國有線電視新聞網（CNN）突然播放一段音檔，此片段聲稱來自主持人在辯論開始之前與拜登競選官員進行的交流。由川普競選團隊設計的錄音檔，是為了詆毀拜登的表現，裡面有主持人問了一句說「你的候選人對我昨天寄出的問題（辯論將採用的提問）是否有任何疑問？」權威人士將它視為一個證據，也就是拜登的工作人員事先知道了題目。這位主持人，一位受人尊敬的記者，堅決否認該帳號，但在#riggeddebates（作弊辯論）主題標籤形成趨勢。川普放大了「辯論被操縱」的觀點給他的Twitter關注者，並且拒絕參加之後的辯論，隨後辯論被取消。
反思
這個情境說明了偽造音檔如何同時用於傷害競爭對手並破壞選舉過程的完整性，這是一場公開辯論。在這種情況下，攻擊是由競選工作人員發起的，表明辯論組織中的腐敗和參與反對候選人的腐敗行為。從歷史上看，為了使這種指控被認為是可信的，控告者必須提供某種證據來支持他們的主張。在這種情況下描述的類型的深偽訊息使得指控者能夠製作看起來可信並且可以透過社交媒體廣泛發佈並放大的證據。這擴大了虛假指控的力量，既可以使其看似真實，又可以提供快速和廣泛的分配。
關於尼曼實驗室 NiemanLab
尼曼新聞實驗室試圖幫助新聞界在網路時代找到自己的未來。網路帶來了前所未有的新聞和訊息，但它也破壞了幾十年來支持高質量新聞業的舊商業模式。全國各地優秀的記者正在失去工作或在網上適應全新的新聞環境。我們希望突出創新的嘗試，並找出使他們成功或失敗的原因。我們希望找到好的想法讓人運用；我們希望幫助記者和編輯適應他們的線上工作; 我們希望幫助傳統新聞機構找到生存之道; 我們希望幫助那些能夠補充或取代它們的新創企業。
關於尼曼基金會 Nieman Foundation
哈佛大學尼曼新聞學基金會成立於1938年，負責管理世界上最古老的記者獎學金計劃。來自88個國家的1,300多名記者獲得了尼曼獎學金，並從哈佛大學一年的學習和探索中受益。
