'你如何看待換臉AI？'
該應用在iOS商店裡排在前列的評論
01
你看過它的“用戶協議”嗎？
該應用在iOS商店裡排在前列的評論
01
你看過它的“用戶協議”嗎？
“ZAO”用戶協議（部分）
該應用在iOS商店裡排在前列的評論
01
你看過它的“用戶協議”嗎？
“ZAO”用戶協議（部分）
換臉視頻會侵犯肖像權、著作權、影視改編權等，還待法律意義上的釐清。
該應用在iOS商店裡排在前列的評論
01
你看過它的“用戶協議”嗎？
“ZAO”用戶協議（部分）
換臉視頻會侵犯肖像權、著作權、影視改編權等，還待法律意義上的釐清。
該應用在iOS商店裡排在前列的評論
01
你看過它的“用戶協議”嗎？
“ZAO”用戶協議（部分）
換臉視頻會侵犯肖像權、著作權、影視改編權等，還待法律意義上的釐清。
該應用在iOS商店裡排在前列的評論
01
你看過它的“用戶協議”嗎？
“ZAO”用戶協議（部分）
換臉視頻會侵犯肖像權、著作權、影視改編權等，還待法律意義上的釐清。
在“ZAO”之前，已經有不少類似的軟件存在，但多數還屬小眾。不妨把它的火爆，視作一種提醒：
這種技術離我們如此之近，未來某天，如果發現自己出現在某條色情視頻中、被人指控從事詐騙，或者聽說有人替你和親朋好友通過話，你都不要太過驚訝……
該應用在iOS商店裡排在前列的評論
01
你看過它的“用戶協議”嗎？
“ZAO”用戶協議（部分）
換臉視頻會侵犯肖像權、著作權、影視改編權等，還待法律意義上的釐清。
在“ZAO”之前，已經有不少類似的軟件存在，但多數還屬小眾。不妨把它的火爆，視作一種提醒：
這種技術離我們如此之近，未來某天，如果發現自己出現在某條色情視頻中、被人指控從事詐騙，或者聽說有人替你和親朋好友通過話，你都不要太過驚訝……
該應用在iOS商店裡排在前列的評論
01
你看過它的“用戶協議”嗎？
“ZAO”用戶協議（部分）
換臉視頻會侵犯肖像權、著作權、影視改編權等，還待法律意義上的釐清。
在“ZAO”之前，已經有不少類似的軟件存在，但多數還屬小眾。不妨把它的火爆，視作一種提醒：
這種技術離我們如此之近，未來某天，如果發現自己出現在某條色情視頻中、被人指控從事詐騙，或者聽說有人替你和親朋好友通過話，你都不要太過驚訝……
該應用在iOS商店裡排在前列的評論
01
你看過它的“用戶協議”嗎？
“ZAO”用戶協議（部分）
換臉視頻會侵犯肖像權、著作權、影視改編權等，還待法律意義上的釐清。
在“ZAO”之前，已經有不少類似的軟件存在，但多數還屬小眾。不妨把它的火爆，視作一種提醒：
這種技術離我們如此之近，未來某天，如果發現自己出現在某條色情視頻中、被人指控從事詐騙，或者聽說有人替你和親朋好友通過話，你都不要太過驚訝……
該應用在iOS商店裡排在前列的評論
01
你看過它的“用戶協議”嗎？
“ZAO”用戶協議（部分）
換臉視頻會侵犯肖像權、著作權、影視改編權等，還待法律意義上的釐清。
在“ZAO”之前，已經有不少類似的軟件存在，但多數還屬小眾。不妨把它的火爆，視作一種提醒：
這種技術離我們如此之近，未來某天，如果發現自己出現在某條色情視頻中、被人指控從事詐騙，或者聽說有人替你和親朋好友通過話，你都不要太過驚訝……
話題的討論讓人們注意到同類技術中的安全問題
02
擋不住的技術
該應用在iOS商店裡排在前列的評論
01
你看過它的“用戶協議”嗎？
“ZAO”用戶協議（部分）
換臉視頻會侵犯肖像權、著作權、影視改編權等，還待法律意義上的釐清。
在“ZAO”之前，已經有不少類似的軟件存在，但多數還屬小眾。不妨把它的火爆，視作一種提醒：
這種技術離我們如此之近，未來某天，如果發現自己出現在某條色情視頻中、被人指控從事詐騙，或者聽說有人替你和親朋好友通過話，你都不要太過驚訝……
話題的討論讓人們注意到同類技術中的安全問題
02
擋不住的技術
該應用在iOS商店裡排在前列的評論
01
你看過它的“用戶協議”嗎？
“ZAO”用戶協議（部分）
換臉視頻會侵犯肖像權、著作權、影視改編權等，還待法律意義上的釐清。
在“ZAO”之前，已經有不少類似的軟件存在，但多數還屬小眾。不妨把它的火爆，視作一種提醒：
這種技術離我們如此之近，未來某天，如果發現自己出現在某條色情視頻中、被人指控從事詐騙，或者聽說有人替你和親朋好友通過話，你都不要太過驚訝……
話題的討論讓人們注意到同類技術中的安全問題
02
擋不住的技術
該應用在iOS商店裡排在前列的評論
01
你看過它的“用戶協議”嗎？
“ZAO”用戶協議（部分）
換臉視頻會侵犯肖像權、著作權、影視改編權等，還待法律意義上的釐清。
在“ZAO”之前，已經有不少類似的軟件存在，但多數還屬小眾。不妨把它的火爆，視作一種提醒：
這種技術離我們如此之近，未來某天，如果發現自己出現在某條色情視頻中、被人指控從事詐騙，或者聽說有人替你和親朋好友通過話，你都不要太過驚訝……
話題的討論讓人們注意到同類技術中的安全問題
02
擋不住的技術
下面的動圖截自早前一些使用 AI 換臉技術製作的情色片。現在的技術已經更為強大。
“艾瑪·沃森”
該應用在iOS商店裡排在前列的評論
01
你看過它的“用戶協議”嗎？
“ZAO”用戶協議（部分）
換臉視頻會侵犯肖像權、著作權、影視改編權等，還待法律意義上的釐清。
在“ZAO”之前，已經有不少類似的軟件存在，但多數還屬小眾。不妨把它的火爆，視作一種提醒：
這種技術離我們如此之近，未來某天，如果發現自己出現在某條色情視頻中、被人指控從事詐騙，或者聽說有人替你和親朋好友通過話，你都不要太過驚訝……
話題的討論讓人們注意到同類技術中的安全問題
02
擋不住的技術
下面的動圖截自早前一些使用 AI 換臉技術製作的情色片。現在的技術已經更為強大。
“艾瑪·沃森”
“娜塔麗·波特曼”
該應用在iOS商店裡排在前列的評論
01
你看過它的“用戶協議”嗎？
“ZAO”用戶協議（部分）
換臉視頻會侵犯肖像權、著作權、影視改編權等，還待法律意義上的釐清。
在“ZAO”之前，已經有不少類似的軟件存在，但多數還屬小眾。不妨把它的火爆，視作一種提醒：
這種技術離我們如此之近，未來某天，如果發現自己出現在某條色情視頻中、被人指控從事詐騙，或者聽說有人替你和親朋好友通過話，你都不要太過驚訝……
話題的討論讓人們注意到同類技術中的安全問題
02
擋不住的技術
下面的動圖截自早前一些使用 AI 換臉技術製作的情色片。現在的技術已經更為強大。
“艾瑪·沃森”
“娜塔麗·波特曼”
“斯嘉麗·約翰遜”
該應用在iOS商店裡排在前列的評論
01
你看過它的“用戶協議”嗎？
“ZAO”用戶協議（部分）
換臉視頻會侵犯肖像權、著作權、影視改編權等，還待法律意義上的釐清。
在“ZAO”之前，已經有不少類似的軟件存在，但多數還屬小眾。不妨把它的火爆，視作一種提醒：
這種技術離我們如此之近，未來某天，如果發現自己出現在某條色情視頻中、被人指控從事詐騙，或者聽說有人替你和親朋好友通過話，你都不要太過驚訝……
話題的討論讓人們注意到同類技術中的安全問題
02
擋不住的技術
下面的動圖截自早前一些使用 AI 換臉技術製作的情色片。現在的技術已經更為強大。
“艾瑪·沃森”
“娜塔麗·波特曼”
“斯嘉麗·約翰遜”
今年初，斯嘉麗·約翰遜就在多個場合，炮轟這種假色情片行為。她說：
“互聯網是一個巨大黑暗的蟲洞。我沒法阻止一個陌生人把我的照片拼接到另一個人的身體上。這件事對我個人造成的影響不大，因為大家都知道那不是我。但是我希望，女性和小孩們今後在網上能夠倍加小心。因為很快就會有普通人被盯上。”
該應用在iOS商店裡排在前列的評論
01
你看過它的“用戶協議”嗎？
“ZAO”用戶協議（部分）
換臉視頻會侵犯肖像權、著作權、影視改編權等，還待法律意義上的釐清。
在“ZAO”之前，已經有不少類似的軟件存在，但多數還屬小眾。不妨把它的火爆，視作一種提醒：
這種技術離我們如此之近，未來某天，如果發現自己出現在某條色情視頻中、被人指控從事詐騙，或者聽說有人替你和親朋好友通過話，你都不要太過驚訝……
話題的討論讓人們注意到同類技術中的安全問題
02
擋不住的技術
下面的動圖截自早前一些使用 AI 換臉技術製作的情色片。現在的技術已經更為強大。
“艾瑪·沃森”
“娜塔麗·波特曼”
“斯嘉麗·約翰遜”
今年初，斯嘉麗·約翰遜就在多個場合，炮轟這種假色情片行為。她說：
“互聯網是一個巨大黑暗的蟲洞。我沒法阻止一個陌生人把我的照片拼接到另一個人的身體上。這件事對我個人造成的影響不大，因為大家都知道那不是我。但是我希望，女性和小孩們今後在網上能夠倍加小心。因為很快就會有普通人被盯上。”
事實上，針對普通人的假色情片製作已經形成了一個灰色產業。
在國內很多網絡交易平臺上，100元就可打包200部換臉情色片，囊括國內一二線女明星；定製換臉視頻，低於1小時只需100元，可為你製作自己同事、同學或朋友的假色情片。
“ZAO”的app宣傳頁上寫著“僅需一張照片”。假色情片製作同樣只需要照片而已——而你的這些個人照片，網上可能很容易找到，對吧？
有一天，如果你中招出現在某個不可描述的畫面裡時，連嫌疑人都很難鎖定。
換臉視頻的受害者幾乎沒有反擊的工具。美國法律專家表示，換臉視頻往往難以追蹤，無法調查，而且存在一個法律灰色地帶：它們建立在公開照片的基礎上，實際上是新的創作，這意味著它們可以作為言論自由受到保護。
幾個月前，有個ID為“阿爾貝託”（Alberto）的程序員開發了一款名叫DeepNude的應用：只需要上傳一張女性照片，該應用就能自動移除女性身上的衣服並“填補”出裸體。
該應用在iOS商店裡排在前列的評論
01
你看過它的“用戶協議”嗎？
“ZAO”用戶協議（部分）
換臉視頻會侵犯肖像權、著作權、影視改編權等，還待法律意義上的釐清。
在“ZAO”之前，已經有不少類似的軟件存在，但多數還屬小眾。不妨把它的火爆，視作一種提醒：
這種技術離我們如此之近，未來某天，如果發現自己出現在某條色情視頻中、被人指控從事詐騙，或者聽說有人替你和親朋好友通過話，你都不要太過驚訝……
話題的討論讓人們注意到同類技術中的安全問題
02
擋不住的技術
下面的動圖截自早前一些使用 AI 換臉技術製作的情色片。現在的技術已經更為強大。
“艾瑪·沃森”
“娜塔麗·波特曼”
“斯嘉麗·約翰遜”
今年初，斯嘉麗·約翰遜就在多個場合，炮轟這種假色情片行為。她說：
“互聯網是一個巨大黑暗的蟲洞。我沒法阻止一個陌生人把我的照片拼接到另一個人的身體上。這件事對我個人造成的影響不大，因為大家都知道那不是我。但是我希望，女性和小孩們今後在網上能夠倍加小心。因為很快就會有普通人被盯上。”
事實上，針對普通人的假色情片製作已經形成了一個灰色產業。
在國內很多網絡交易平臺上，100元就可打包200部換臉情色片，囊括國內一二線女明星；定製換臉視頻，低於1小時只需100元，可為你製作自己同事、同學或朋友的假色情片。
“ZAO”的app宣傳頁上寫著“僅需一張照片”。假色情片製作同樣只需要照片而已——而你的這些個人照片，網上可能很容易找到，對吧？
有一天，如果你中招出現在某個不可描述的畫面裡時，連嫌疑人都很難鎖定。
換臉視頻的受害者幾乎沒有反擊的工具。美國法律專家表示，換臉視頻往往難以追蹤，無法調查，而且存在一個法律灰色地帶：它們建立在公開照片的基礎上，實際上是新的創作，這意味著它們可以作為言論自由受到保護。
幾個月前，有個ID為“阿爾貝託”（Alberto）的程序員開發了一款名叫DeepNude的應用：只需要上傳一張女性照片，該應用就能自動移除女性身上的衣服並“填補”出裸體。
這種“一鍵脫衣”使用的是和AI換臉類似的算法。後來，迫於全網壓力，DeepNude宣佈下線。
但就像開發者辯解所說，“技術已經發展到這一步了，如果我不這樣做，別人也會在一年內做出來。”
技術本身是擋不住的，所以更需要人們來予以約束。
谷歌公司在這個問題上的態度也很有代表性。他們說自己很重視道德責任，但認為如果對新技術嚴加限制，可能會讓延緩開發出一些對人類有益的用途。
計算機科學家法裡德認為這是一種狡辯：“你能想象一個生物學家對人們說：‘嘿，這有一種非常酷的病毒，我們看看如果人人都能感染它會怎麼樣’嗎？”
法裡德說：“這項技術太不成熟了，科技公司必須放慢推廣它的步伐。”
04
它會摧毀我們對外界的信任嗎？
該應用在iOS商店裡排在前列的評論
01
你看過它的“用戶協議”嗎？
“ZAO”用戶協議（部分）
換臉視頻會侵犯肖像權、著作權、影視改編權等，還待法律意義上的釐清。
在“ZAO”之前，已經有不少類似的軟件存在，但多數還屬小眾。不妨把它的火爆，視作一種提醒：
這種技術離我們如此之近，未來某天，如果發現自己出現在某條色情視頻中、被人指控從事詐騙，或者聽說有人替你和親朋好友通過話，你都不要太過驚訝……
話題的討論讓人們注意到同類技術中的安全問題
02
擋不住的技術
下面的動圖截自早前一些使用 AI 換臉技術製作的情色片。現在的技術已經更為強大。
“艾瑪·沃森”
“娜塔麗·波特曼”
“斯嘉麗·約翰遜”
今年初，斯嘉麗·約翰遜就在多個場合，炮轟這種假色情片行為。她說：
“互聯網是一個巨大黑暗的蟲洞。我沒法阻止一個陌生人把我的照片拼接到另一個人的身體上。這件事對我個人造成的影響不大，因為大家都知道那不是我。但是我希望，女性和小孩們今後在網上能夠倍加小心。因為很快就會有普通人被盯上。”
事實上，針對普通人的假色情片製作已經形成了一個灰色產業。
在國內很多網絡交易平臺上，100元就可打包200部換臉情色片，囊括國內一二線女明星；定製換臉視頻，低於1小時只需100元，可為你製作自己同事、同學或朋友的假色情片。
“ZAO”的app宣傳頁上寫著“僅需一張照片”。假色情片製作同樣只需要照片而已——而你的這些個人照片，網上可能很容易找到，對吧？
有一天，如果你中招出現在某個不可描述的畫面裡時，連嫌疑人都很難鎖定。
換臉視頻的受害者幾乎沒有反擊的工具。美國法律專家表示，換臉視頻往往難以追蹤，無法調查，而且存在一個法律灰色地帶：它們建立在公開照片的基礎上，實際上是新的創作，這意味著它們可以作為言論自由受到保護。
幾個月前，有個ID為“阿爾貝託”（Alberto）的程序員開發了一款名叫DeepNude的應用：只需要上傳一張女性照片，該應用就能自動移除女性身上的衣服並“填補”出裸體。
這種“一鍵脫衣”使用的是和AI換臉類似的算法。後來，迫於全網壓力，DeepNude宣佈下線。
但就像開發者辯解所說，“技術已經發展到這一步了，如果我不這樣做，別人也會在一年內做出來。”
技術本身是擋不住的，所以更需要人們來予以約束。
谷歌公司在這個問題上的態度也很有代表性。他們說自己很重視道德責任，但認為如果對新技術嚴加限制，可能會讓延緩開發出一些對人類有益的用途。
計算機科學家法裡德認為這是一種狡辯：“你能想象一個生物學家對人們說：‘嘿，這有一種非常酷的病毒，我們看看如果人人都能感染它會怎麼樣’嗎？”
法裡德說：“這項技術太不成熟了，科技公司必須放慢推廣它的步伐。”
04
它會摧毀我們對外界的信任嗎？
“ZAO”在圖片上傳時，對公眾人物的照片進行了攔截。有用戶疑問說：“它如何充分定義和識別公眾人物呢？”
這種攔截，是因為公眾人物的換臉視頻危害更大，特別是利用他們來發表一些觀點。奧巴馬、特朗普，都曾是此類視頻受害者。
今年6月初，一則以Facebook總裁扎克伯格為素材的換臉視頻在Instagram上傳播開來。在視頻裡，假的扎克伯格說：“試想一下，一個人擁有幾十億人的數據，他知道這些人的祕密、他們的生活，甚至他們的未來。而這些數據全是偷來的。”
扎克伯格的“受害”視頻，以及AI如何幹擾美國政壇。
它以扎克伯格的名義諷刺了他自己。
此前，扎克伯格一直對Facebook上的假視頻態度曖昧，強調不應該由平臺來判斷什麼是真假。
到6月底，扎克伯格宣佈，Facebook已經在制定新的換臉視頻監管政策，來預防它們造成惡劣影響，並且表示：在未來，Facebook可能會完全禁止換臉視頻。
而與此同時，“語音克隆”也取得了突破，現在，只需提供幾秒鐘的語音樣本，就可以模擬出非常相似的人聲。百度，谷歌、Adobe等公司都在開發相似的項目。
視頻加上聲音，恐怕你自己來鑑別都會有難度。
“人在家中坐，禍從天上來。”未來不要感覺太奇怪。
當這種換臉視頻的泛濫，耗盡人們去核查辨別的耐心之後，這種新技術很可能會摧毀公民社會裡的相互信任。
你如何看待換臉AI？
主要參考資料：
https://www.theguardian.com/news/shortcuts/2019/aug/13/danger-deepfakes-viral-video-bill-hader-tom-cruise
https://www.economist.com/the-economist-explains/2019/08/07/what-is-a-deepfake
https://36kr.com/p/5077359
https://www.vice.com/en_us/article/3k7mgn/baidu-deep-voice-software-can-clone-anyones-voice-with-just-37-seconds-of-audio
https://www.cbsnews.com/news/facebook-zuckerberg-says-its-really-important-to-form-policy-on-deepfake-videos/
https://fortune.com/2019/06/26/mark-zuckerberg-facebook-deepfake-videos-policy/
https://www.scmp.com/news/world/united-states-canada/article/2180091/graphic-deepfakeporn-videos-are-being-weaponised
閱讀原文：刷屏的“換臉”，有什麼風險？
該應用在iOS商店裡排在前列的評論
01
你看過它的“用戶協議”嗎？
“ZAO”用戶協議（部分）
換臉視頻會侵犯肖像權、著作權、影視改編權等，還待法律意義上的釐清。
在“ZAO”之前，已經有不少類似的軟件存在，但多數還屬小眾。不妨把它的火爆，視作一種提醒：
這種技術離我們如此之近，未來某天，如果發現自己出現在某條色情視頻中、被人指控從事詐騙，或者聽說有人替你和親朋好友通過話，你都不要太過驚訝……
話題的討論讓人們注意到同類技術中的安全問題
02
擋不住的技術
下面的動圖截自早前一些使用 AI 換臉技術製作的情色片。現在的技術已經更為強大。
“艾瑪·沃森”
“娜塔麗·波特曼”
“斯嘉麗·約翰遜”
今年初，斯嘉麗·約翰遜就在多個場合，炮轟這種假色情片行為。她說：
“互聯網是一個巨大黑暗的蟲洞。我沒法阻止一個陌生人把我的照片拼接到另一個人的身體上。這件事對我個人造成的影響不大，因為大家都知道那不是我。但是我希望，女性和小孩們今後在網上能夠倍加小心。因為很快就會有普通人被盯上。”
事實上，針對普通人的假色情片製作已經形成了一個灰色產業。
在國內很多網絡交易平臺上，100元就可打包200部換臉情色片，囊括國內一二線女明星；定製換臉視頻，低於1小時只需100元，可為你製作自己同事、同學或朋友的假色情片。
“ZAO”的app宣傳頁上寫著“僅需一張照片”。假色情片製作同樣只需要照片而已——而你的這些個人照片，網上可能很容易找到，對吧？
有一天，如果你中招出現在某個不可描述的畫面裡時，連嫌疑人都很難鎖定。
換臉視頻的受害者幾乎沒有反擊的工具。美國法律專家表示，換臉視頻往往難以追蹤，無法調查，而且存在一個法律灰色地帶：它們建立在公開照片的基礎上，實際上是新的創作，這意味著它們可以作為言論自由受到保護。
幾個月前，有個ID為“阿爾貝託”（Alberto）的程序員開發了一款名叫DeepNude的應用：只需要上傳一張女性照片，該應用就能自動移除女性身上的衣服並“填補”出裸體。
這種“一鍵脫衣”使用的是和AI換臉類似的算法。後來，迫於全網壓力，DeepNude宣佈下線。
但就像開發者辯解所說，“技術已經發展到這一步了，如果我不這樣做，別人也會在一年內做出來。”
技術本身是擋不住的，所以更需要人們來予以約束。
谷歌公司在這個問題上的態度也很有代表性。他們說自己很重視道德責任，但認為如果對新技術嚴加限制，可能會讓延緩開發出一些對人類有益的用途。
計算機科學家法裡德認為這是一種狡辯：“你能想象一個生物學家對人們說：‘嘿，這有一種非常酷的病毒，我們看看如果人人都能感染它會怎麼樣’嗎？”
法裡德說：“這項技術太不成熟了，科技公司必須放慢推廣它的步伐。”
04
它會摧毀我們對外界的信任嗎？
“ZAO”在圖片上傳時，對公眾人物的照片進行了攔截。有用戶疑問說：“它如何充分定義和識別公眾人物呢？”
這種攔截，是因為公眾人物的換臉視頻危害更大，特別是利用他們來發表一些觀點。奧巴馬、特朗普，都曾是此類視頻受害者。
今年6月初，一則以Facebook總裁扎克伯格為素材的換臉視頻在Instagram上傳播開來。在視頻裡，假的扎克伯格說：“試想一下，一個人擁有幾十億人的數據，他知道這些人的祕密、他們的生活，甚至他們的未來。而這些數據全是偷來的。”
扎克伯格的“受害”視頻，以及AI如何幹擾美國政壇。
它以扎克伯格的名義諷刺了他自己。
此前，扎克伯格一直對Facebook上的假視頻態度曖昧，強調不應該由平臺來判斷什麼是真假。
到6月底，扎克伯格宣佈，Facebook已經在制定新的換臉視頻監管政策，來預防它們造成惡劣影響，並且表示：在未來，Facebook可能會完全禁止換臉視頻。
而與此同時，“語音克隆”也取得了突破，現在，只需提供幾秒鐘的語音樣本，就可以模擬出非常相似的人聲。百度，谷歌、Adobe等公司都在開發相似的項目。
視頻加上聲音，恐怕你自己來鑑別都會有難度。
“人在家中坐，禍從天上來。”未來不要感覺太奇怪。
當這種換臉視頻的泛濫，耗盡人們去核查辨別的耐心之後，這種新技術很可能會摧毀公民社會裡的相互信任。
你如何看待換臉AI？
主要參考資料：
https://www.theguardian.com/news/shortcuts/2019/aug/13/danger-deepfakes-viral-video-bill-hader-tom-cruise
https://www.economist.com/the-economist-explains/2019/08/07/what-is-a-deepfake
https://36kr.com/p/5077359
https://www.vice.com/en_us/article/3k7mgn/baidu-deep-voice-software-can-clone-anyones-voice-with-just-37-seconds-of-audio
https://www.cbsnews.com/news/facebook-zuckerberg-says-its-really-important-to-form-policy-on-deepfake-videos/
https://fortune.com/2019/06/26/mark-zuckerberg-facebook-deepfake-videos-policy/
https://www.scmp.com/news/world/united-states-canada/article/2180091/graphic-deepfakeporn-videos-are-being-weaponised
閱讀原文：刷屏的“換臉”，有什麼風險？
點擊鏈接即可閱讀
該應用在iOS商店裡排在前列的評論
01
你看過它的“用戶協議”嗎？
“ZAO”用戶協議（部分）
換臉視頻會侵犯肖像權、著作權、影視改編權等，還待法律意義上的釐清。
在“ZAO”之前，已經有不少類似的軟件存在，但多數還屬小眾。不妨把它的火爆，視作一種提醒：
這種技術離我們如此之近，未來某天，如果發現自己出現在某條色情視頻中、被人指控從事詐騙，或者聽說有人替你和親朋好友通過話，你都不要太過驚訝……
話題的討論讓人們注意到同類技術中的安全問題
02
擋不住的技術
下面的動圖截自早前一些使用 AI 換臉技術製作的情色片。現在的技術已經更為強大。
“艾瑪·沃森”
“娜塔麗·波特曼”
“斯嘉麗·約翰遜”
今年初，斯嘉麗·約翰遜就在多個場合，炮轟這種假色情片行為。她說：
“互聯網是一個巨大黑暗的蟲洞。我沒法阻止一個陌生人把我的照片拼接到另一個人的身體上。這件事對我個人造成的影響不大，因為大家都知道那不是我。但是我希望，女性和小孩們今後在網上能夠倍加小心。因為很快就會有普通人被盯上。”
事實上，針對普通人的假色情片製作已經形成了一個灰色產業。
在國內很多網絡交易平臺上，100元就可打包200部換臉情色片，囊括國內一二線女明星；定製換臉視頻，低於1小時只需100元，可為你製作自己同事、同學或朋友的假色情片。
“ZAO”的app宣傳頁上寫著“僅需一張照片”。假色情片製作同樣只需要照片而已——而你的這些個人照片，網上可能很容易找到，對吧？
有一天，如果你中招出現在某個不可描述的畫面裡時，連嫌疑人都很難鎖定。
換臉視頻的受害者幾乎沒有反擊的工具。美國法律專家表示，換臉視頻往往難以追蹤，無法調查，而且存在一個法律灰色地帶：它們建立在公開照片的基礎上，實際上是新的創作，這意味著它們可以作為言論自由受到保護。
幾個月前，有個ID為“阿爾貝託”（Alberto）的程序員開發了一款名叫DeepNude的應用：只需要上傳一張女性照片，該應用就能自動移除女性身上的衣服並“填補”出裸體。
這種“一鍵脫衣”使用的是和AI換臉類似的算法。後來，迫於全網壓力，DeepNude宣佈下線。
但就像開發者辯解所說，“技術已經發展到這一步了，如果我不這樣做，別人也會在一年內做出來。”
技術本身是擋不住的，所以更需要人們來予以約束。
谷歌公司在這個問題上的態度也很有代表性。他們說自己很重視道德責任，但認為如果對新技術嚴加限制，可能會讓延緩開發出一些對人類有益的用途。
計算機科學家法裡德認為這是一種狡辯：“你能想象一個生物學家對人們說：‘嘿，這有一種非常酷的病毒，我們看看如果人人都能感染它會怎麼樣’嗎？”
法裡德說：“這項技術太不成熟了，科技公司必須放慢推廣它的步伐。”
04
它會摧毀我們對外界的信任嗎？
“ZAO”在圖片上傳時，對公眾人物的照片進行了攔截。有用戶疑問說：“它如何充分定義和識別公眾人物呢？”
這種攔截，是因為公眾人物的換臉視頻危害更大，特別是利用他們來發表一些觀點。奧巴馬、特朗普，都曾是此類視頻受害者。
今年6月初，一則以Facebook總裁扎克伯格為素材的換臉視頻在Instagram上傳播開來。在視頻裡，假的扎克伯格說：“試想一下，一個人擁有幾十億人的數據，他知道這些人的祕密、他們的生活，甚至他們的未來。而這些數據全是偷來的。”
扎克伯格的“受害”視頻，以及AI如何幹擾美國政壇。
它以扎克伯格的名義諷刺了他自己。
此前，扎克伯格一直對Facebook上的假視頻態度曖昧，強調不應該由平臺來判斷什麼是真假。
到6月底，扎克伯格宣佈，Facebook已經在制定新的換臉視頻監管政策，來預防它們造成惡劣影響，並且表示：在未來，Facebook可能會完全禁止換臉視頻。
而與此同時，“語音克隆”也取得了突破，現在，只需提供幾秒鐘的語音樣本，就可以模擬出非常相似的人聲。百度，谷歌、Adobe等公司都在開發相似的項目。
視頻加上聲音，恐怕你自己來鑑別都會有難度。
“人在家中坐，禍從天上來。”未來不要感覺太奇怪。
當這種換臉視頻的泛濫，耗盡人們去核查辨別的耐心之後，這種新技術很可能會摧毀公民社會裡的相互信任。
你如何看待換臉AI？
主要參考資料：
https://www.theguardian.com/news/shortcuts/2019/aug/13/danger-deepfakes-viral-video-bill-hader-tom-cruise
https://www.economist.com/the-economist-explains/2019/08/07/what-is-a-deepfake
https://36kr.com/p/5077359
https://www.vice.com/en_us/article/3k7mgn/baidu-deep-voice-software-can-clone-anyones-voice-with-just-37-seconds-of-audio
https://www.cbsnews.com/news/facebook-zuckerberg-says-its-really-important-to-form-policy-on-deepfake-videos/
https://fortune.com/2019/06/26/mark-zuckerberg-facebook-deepfake-videos-policy/
https://www.scmp.com/news/world/united-states-canada/article/2180091/graphic-deepfakeporn-videos-are-being-weaponised
閱讀原文：刷屏的“換臉”，有什麼風險？
點擊鏈接即可閱讀
該應用在iOS商店裡排在前列的評論
01
你看過它的“用戶協議”嗎？
“ZAO”用戶協議（部分）
換臉視頻會侵犯肖像權、著作權、影視改編權等，還待法律意義上的釐清。
在“ZAO”之前，已經有不少類似的軟件存在，但多數還屬小眾。不妨把它的火爆，視作一種提醒：
這種技術離我們如此之近，未來某天，如果發現自己出現在某條色情視頻中、被人指控從事詐騙，或者聽說有人替你和親朋好友通過話，你都不要太過驚訝……
話題的討論讓人們注意到同類技術中的安全問題
02
擋不住的技術
下面的動圖截自早前一些使用 AI 換臉技術製作的情色片。現在的技術已經更為強大。
“艾瑪·沃森”
“娜塔麗·波特曼”
“斯嘉麗·約翰遜”
今年初，斯嘉麗·約翰遜就在多個場合，炮轟這種假色情片行為。她說：
“互聯網是一個巨大黑暗的蟲洞。我沒法阻止一個陌生人把我的照片拼接到另一個人的身體上。這件事對我個人造成的影響不大，因為大家都知道那不是我。但是我希望，女性和小孩們今後在網上能夠倍加小心。因為很快就會有普通人被盯上。”
事實上，針對普通人的假色情片製作已經形成了一個灰色產業。
在國內很多網絡交易平臺上，100元就可打包200部換臉情色片，囊括國內一二線女明星；定製換臉視頻，低於1小時只需100元，可為你製作自己同事、同學或朋友的假色情片。
“ZAO”的app宣傳頁上寫著“僅需一張照片”。假色情片製作同樣只需要照片而已——而你的這些個人照片，網上可能很容易找到，對吧？
有一天，如果你中招出現在某個不可描述的畫面裡時，連嫌疑人都很難鎖定。
換臉視頻的受害者幾乎沒有反擊的工具。美國法律專家表示，換臉視頻往往難以追蹤，無法調查，而且存在一個法律灰色地帶：它們建立在公開照片的基礎上，實際上是新的創作，這意味著它們可以作為言論自由受到保護。
幾個月前，有個ID為“阿爾貝託”（Alberto）的程序員開發了一款名叫DeepNude的應用：只需要上傳一張女性照片，該應用就能自動移除女性身上的衣服並“填補”出裸體。
這種“一鍵脫衣”使用的是和AI換臉類似的算法。後來，迫於全網壓力，DeepNude宣佈下線。
但就像開發者辯解所說，“技術已經發展到這一步了，如果我不這樣做，別人也會在一年內做出來。”
技術本身是擋不住的，所以更需要人們來予以約束。
谷歌公司在這個問題上的態度也很有代表性。他們說自己很重視道德責任，但認為如果對新技術嚴加限制，可能會讓延緩開發出一些對人類有益的用途。
計算機科學家法裡德認為這是一種狡辯：“你能想象一個生物學家對人們說：‘嘿，這有一種非常酷的病毒，我們看看如果人人都能感染它會怎麼樣’嗎？”
法裡德說：“這項技術太不成熟了，科技公司必須放慢推廣它的步伐。”
04
它會摧毀我們對外界的信任嗎？
“ZAO”在圖片上傳時，對公眾人物的照片進行了攔截。有用戶疑問說：“它如何充分定義和識別公眾人物呢？”
這種攔截，是因為公眾人物的換臉視頻危害更大，特別是利用他們來發表一些觀點。奧巴馬、特朗普，都曾是此類視頻受害者。
今年6月初，一則以Facebook總裁扎克伯格為素材的換臉視頻在Instagram上傳播開來。在視頻裡，假的扎克伯格說：“試想一下，一個人擁有幾十億人的數據，他知道這些人的祕密、他們的生活，甚至他們的未來。而這些數據全是偷來的。”
扎克伯格的“受害”視頻，以及AI如何幹擾美國政壇。
它以扎克伯格的名義諷刺了他自己。
此前，扎克伯格一直對Facebook上的假視頻態度曖昧，強調不應該由平臺來判斷什麼是真假。
到6月底，扎克伯格宣佈，Facebook已經在制定新的換臉視頻監管政策，來預防它們造成惡劣影響，並且表示：在未來，Facebook可能會完全禁止換臉視頻。
而與此同時，“語音克隆”也取得了突破，現在，只需提供幾秒鐘的語音樣本，就可以模擬出非常相似的人聲。百度，谷歌、Adobe等公司都在開發相似的項目。
視頻加上聲音，恐怕你自己來鑑別都會有難度。
“人在家中坐，禍從天上來。”未來不要感覺太奇怪。
當這種換臉視頻的泛濫，耗盡人們去核查辨別的耐心之後，這種新技術很可能會摧毀公民社會裡的相互信任。
你如何看待換臉AI？
主要參考資料：
https://www.theguardian.com/news/shortcuts/2019/aug/13/danger-deepfakes-viral-video-bill-hader-tom-cruise
https://www.economist.com/the-economist-explains/2019/08/07/what-is-a-deepfake
https://36kr.com/p/5077359
https://www.vice.com/en_us/article/3k7mgn/baidu-deep-voice-software-can-clone-anyones-voice-with-just-37-seconds-of-audio
https://www.cbsnews.com/news/facebook-zuckerberg-says-its-really-important-to-form-policy-on-deepfake-videos/
https://fortune.com/2019/06/26/mark-zuckerberg-facebook-deepfake-videos-policy/
https://www.scmp.com/news/world/united-states-canada/article/2180091/graphic-deepfakeporn-videos-are-being-weaponised
閱讀原文：刷屏的“換臉”，有什麼風險？
點擊鏈接即可閱讀
該應用在iOS商店裡排在前列的評論
01
你看過它的“用戶協議”嗎？
“ZAO”用戶協議（部分）
換臉視頻會侵犯肖像權、著作權、影視改編權等，還待法律意義上的釐清。
在“ZAO”之前，已經有不少類似的軟件存在，但多數還屬小眾。不妨把它的火爆，視作一種提醒：
這種技術離我們如此之近，未來某天，如果發現自己出現在某條色情視頻中、被人指控從事詐騙，或者聽說有人替你和親朋好友通過話，你都不要太過驚訝……
話題的討論讓人們注意到同類技術中的安全問題
02
擋不住的技術
下面的動圖截自早前一些使用 AI 換臉技術製作的情色片。現在的技術已經更為強大。
“艾瑪·沃森”
“娜塔麗·波特曼”
“斯嘉麗·約翰遜”
今年初，斯嘉麗·約翰遜就在多個場合，炮轟這種假色情片行為。她說：
“互聯網是一個巨大黑暗的蟲洞。我沒法阻止一個陌生人把我的照片拼接到另一個人的身體上。這件事對我個人造成的影響不大，因為大家都知道那不是我。但是我希望，女性和小孩們今後在網上能夠倍加小心。因為很快就會有普通人被盯上。”
事實上，針對普通人的假色情片製作已經形成了一個灰色產業。
在國內很多網絡交易平臺上，100元就可打包200部換臉情色片，囊括國內一二線女明星；定製換臉視頻，低於1小時只需100元，可為你製作自己同事、同學或朋友的假色情片。
“ZAO”的app宣傳頁上寫著“僅需一張照片”。假色情片製作同樣只需要照片而已——而你的這些個人照片，網上可能很容易找到，對吧？
有一天，如果你中招出現在某個不可描述的畫面裡時，連嫌疑人都很難鎖定。
換臉視頻的受害者幾乎沒有反擊的工具。美國法律專家表示，換臉視頻往往難以追蹤，無法調查，而且存在一個法律灰色地帶：它們建立在公開照片的基礎上，實際上是新的創作，這意味著它們可以作為言論自由受到保護。
幾個月前，有個ID為“阿爾貝託”（Alberto）的程序員開發了一款名叫DeepNude的應用：只需要上傳一張女性照片，該應用就能自動移除女性身上的衣服並“填補”出裸體。
這種“一鍵脫衣”使用的是和AI換臉類似的算法。後來，迫於全網壓力，DeepNude宣佈下線。
但就像開發者辯解所說，“技術已經發展到這一步了，如果我不這樣做，別人也會在一年內做出來。”
技術本身是擋不住的，所以更需要人們來予以約束。
谷歌公司在這個問題上的態度也很有代表性。他們說自己很重視道德責任，但認為如果對新技術嚴加限制，可能會讓延緩開發出一些對人類有益的用途。
計算機科學家法裡德認為這是一種狡辯：“你能想象一個生物學家對人們說：‘嘿，這有一種非常酷的病毒，我們看看如果人人都能感染它會怎麼樣’嗎？”
法裡德說：“這項技術太不成熟了，科技公司必須放慢推廣它的步伐。”
04
它會摧毀我們對外界的信任嗎？
“ZAO”在圖片上傳時，對公眾人物的照片進行了攔截。有用戶疑問說：“它如何充分定義和識別公眾人物呢？”
這種攔截，是因為公眾人物的換臉視頻危害更大，特別是利用他們來發表一些觀點。奧巴馬、特朗普，都曾是此類視頻受害者。
今年6月初，一則以Facebook總裁扎克伯格為素材的換臉視頻在Instagram上傳播開來。在視頻裡，假的扎克伯格說：“試想一下，一個人擁有幾十億人的數據，他知道這些人的祕密、他們的生活，甚至他們的未來。而這些數據全是偷來的。”
扎克伯格的“受害”視頻，以及AI如何幹擾美國政壇。
它以扎克伯格的名義諷刺了他自己。
此前，扎克伯格一直對Facebook上的假視頻態度曖昧，強調不應該由平臺來判斷什麼是真假。
到6月底，扎克伯格宣佈，Facebook已經在制定新的換臉視頻監管政策，來預防它們造成惡劣影響，並且表示：在未來，Facebook可能會完全禁止換臉視頻。
而與此同時，“語音克隆”也取得了突破，現在，只需提供幾秒鐘的語音樣本，就可以模擬出非常相似的人聲。百度，谷歌、Adobe等公司都在開發相似的項目。
視頻加上聲音，恐怕你自己來鑑別都會有難度。
“人在家中坐，禍從天上來。”未來不要感覺太奇怪。
當這種換臉視頻的泛濫，耗盡人們去核查辨別的耐心之後，這種新技術很可能會摧毀公民社會裡的相互信任。
你如何看待換臉AI？
主要參考資料：
https://www.theguardian.com/news/shortcuts/2019/aug/13/danger-deepfakes-viral-video-bill-hader-tom-cruise
https://www.economist.com/the-economist-explains/2019/08/07/what-is-a-deepfake
https://36kr.com/p/5077359
https://www.vice.com/en_us/article/3k7mgn/baidu-deep-voice-software-can-clone-anyones-voice-with-just-37-seconds-of-audio
https://www.cbsnews.com/news/facebook-zuckerberg-says-its-really-important-to-form-policy-on-deepfake-videos/
https://fortune.com/2019/06/26/mark-zuckerberg-facebook-deepfake-videos-policy/
https://www.scmp.com/news/world/united-states-canada/article/2180091/graphic-deepfakeporn-videos-are-being-weaponised
閱讀原文：刷屏的“換臉”，有什麼風險？
點擊鏈接即可閱讀
該應用在iOS商店裡排在前列的評論
01
你看過它的“用戶協議”嗎？
“ZAO”用戶協議（部分）
換臉視頻會侵犯肖像權、著作權、影視改編權等，還待法律意義上的釐清。
在“ZAO”之前，已經有不少類似的軟件存在，但多數還屬小眾。不妨把它的火爆，視作一種提醒：
這種技術離我們如此之近，未來某天，如果發現自己出現在某條色情視頻中、被人指控從事詐騙，或者聽說有人替你和親朋好友通過話，你都不要太過驚訝……
話題的討論讓人們注意到同類技術中的安全問題
02
擋不住的技術
下面的動圖截自早前一些使用 AI 換臉技術製作的情色片。現在的技術已經更為強大。
“艾瑪·沃森”
“娜塔麗·波特曼”
“斯嘉麗·約翰遜”
今年初，斯嘉麗·約翰遜就在多個場合，炮轟這種假色情片行為。她說：
“互聯網是一個巨大黑暗的蟲洞。我沒法阻止一個陌生人把我的照片拼接到另一個人的身體上。這件事對我個人造成的影響不大，因為大家都知道那不是我。但是我希望，女性和小孩們今後在網上能夠倍加小心。因為很快就會有普通人被盯上。”
事實上，針對普通人的假色情片製作已經形成了一個灰色產業。
在國內很多網絡交易平臺上，100元就可打包200部換臉情色片，囊括國內一二線女明星；定製換臉視頻，低於1小時只需100元，可為你製作自己同事、同學或朋友的假色情片。
“ZAO”的app宣傳頁上寫著“僅需一張照片”。假色情片製作同樣只需要照片而已——而你的這些個人照片，網上可能很容易找到，對吧？
有一天，如果你中招出現在某個不可描述的畫面裡時，連嫌疑人都很難鎖定。
換臉視頻的受害者幾乎沒有反擊的工具。美國法律專家表示，換臉視頻往往難以追蹤，無法調查，而且存在一個法律灰色地帶：它們建立在公開照片的基礎上，實際上是新的創作，這意味著它們可以作為言論自由受到保護。
幾個月前，有個ID為“阿爾貝託”（Alberto）的程序員開發了一款名叫DeepNude的應用：只需要上傳一張女性照片，該應用就能自動移除女性身上的衣服並“填補”出裸體。
這種“一鍵脫衣”使用的是和AI換臉類似的算法。後來，迫於全網壓力，DeepNude宣佈下線。
但就像開發者辯解所說，“技術已經發展到這一步了，如果我不這樣做，別人也會在一年內做出來。”
技術本身是擋不住的，所以更需要人們來予以約束。
谷歌公司在這個問題上的態度也很有代表性。他們說自己很重視道德責任，但認為如果對新技術嚴加限制，可能會讓延緩開發出一些對人類有益的用途。
計算機科學家法裡德認為這是一種狡辯：“你能想象一個生物學家對人們說：‘嘿，這有一種非常酷的病毒，我們看看如果人人都能感染它會怎麼樣’嗎？”
法裡德說：“這項技術太不成熟了，科技公司必須放慢推廣它的步伐。”
04
它會摧毀我們對外界的信任嗎？
“ZAO”在圖片上傳時，對公眾人物的照片進行了攔截。有用戶疑問說：“它如何充分定義和識別公眾人物呢？”
這種攔截，是因為公眾人物的換臉視頻危害更大，特別是利用他們來發表一些觀點。奧巴馬、特朗普，都曾是此類視頻受害者。
今年6月初，一則以Facebook總裁扎克伯格為素材的換臉視頻在Instagram上傳播開來。在視頻裡，假的扎克伯格說：“試想一下，一個人擁有幾十億人的數據，他知道這些人的祕密、他們的生活，甚至他們的未來。而這些數據全是偷來的。”
扎克伯格的“受害”視頻，以及AI如何幹擾美國政壇。
它以扎克伯格的名義諷刺了他自己。
此前，扎克伯格一直對Facebook上的假視頻態度曖昧，強調不應該由平臺來判斷什麼是真假。
到6月底，扎克伯格宣佈，Facebook已經在制定新的換臉視頻監管政策，來預防它們造成惡劣影響，並且表示：在未來，Facebook可能會完全禁止換臉視頻。
而與此同時，“語音克隆”也取得了突破，現在，只需提供幾秒鐘的語音樣本，就可以模擬出非常相似的人聲。百度，谷歌、Adobe等公司都在開發相似的項目。
視頻加上聲音，恐怕你自己來鑑別都會有難度。
“人在家中坐，禍從天上來。”未來不要感覺太奇怪。
當這種換臉視頻的泛濫，耗盡人們去核查辨別的耐心之後，這種新技術很可能會摧毀公民社會裡的相互信任。
你如何看待換臉AI？
主要參考資料：
https://www.theguardian.com/news/shortcuts/2019/aug/13/danger-deepfakes-viral-video-bill-hader-tom-cruise
https://www.economist.com/the-economist-explains/2019/08/07/what-is-a-deepfake
https://36kr.com/p/5077359
https://www.vice.com/en_us/article/3k7mgn/baidu-deep-voice-software-can-clone-anyones-voice-with-just-37-seconds-of-audio
https://www.cbsnews.com/news/facebook-zuckerberg-says-its-really-important-to-form-policy-on-deepfake-videos/
https://fortune.com/2019/06/26/mark-zuckerberg-facebook-deepfake-videos-policy/
https://www.scmp.com/news/world/united-states-canada/article/2180091/graphic-deepfakeporn-videos-are-being-weaponised
閱讀原文：刷屏的“換臉”，有什麼風險？
點擊鏈接即可閱讀
該應用在iOS商店裡排在前列的評論
01
你看過它的“用戶協議”嗎？
“ZAO”用戶協議（部分）
換臉視頻會侵犯肖像權、著作權、影視改編權等，還待法律意義上的釐清。
在“ZAO”之前，已經有不少類似的軟件存在，但多數還屬小眾。不妨把它的火爆，視作一種提醒：
這種技術離我們如此之近，未來某天，如果發現自己出現在某條色情視頻中、被人指控從事詐騙，或者聽說有人替你和親朋好友通過話，你都不要太過驚訝……
話題的討論讓人們注意到同類技術中的安全問題
02
擋不住的技術
下面的動圖截自早前一些使用 AI 換臉技術製作的情色片。現在的技術已經更為強大。
“艾瑪·沃森”
“娜塔麗·波特曼”
“斯嘉麗·約翰遜”
今年初，斯嘉麗·約翰遜就在多個場合，炮轟這種假色情片行為。她說：
“互聯網是一個巨大黑暗的蟲洞。我沒法阻止一個陌生人把我的照片拼接到另一個人的身體上。這件事對我個人造成的影響不大，因為大家都知道那不是我。但是我希望，女性和小孩們今後在網上能夠倍加小心。因為很快就會有普通人被盯上。”
事實上，針對普通人的假色情片製作已經形成了一個灰色產業。
在國內很多網絡交易平臺上，100元就可打包200部換臉情色片，囊括國內一二線女明星；定製換臉視頻，低於1小時只需100元，可為你製作自己同事、同學或朋友的假色情片。
“ZAO”的app宣傳頁上寫著“僅需一張照片”。假色情片製作同樣只需要照片而已——而你的這些個人照片，網上可能很容易找到，對吧？
有一天，如果你中招出現在某個不可描述的畫面裡時，連嫌疑人都很難鎖定。
換臉視頻的受害者幾乎沒有反擊的工具。美國法律專家表示，換臉視頻往往難以追蹤，無法調查，而且存在一個法律灰色地帶：它們建立在公開照片的基礎上，實際上是新的創作，這意味著它們可以作為言論自由受到保護。
幾個月前，有個ID為“阿爾貝託”（Alberto）的程序員開發了一款名叫DeepNude的應用：只需要上傳一張女性照片，該應用就能自動移除女性身上的衣服並“填補”出裸體。
這種“一鍵脫衣”使用的是和AI換臉類似的算法。後來，迫於全網壓力，DeepNude宣佈下線。
但就像開發者辯解所說，“技術已經發展到這一步了，如果我不這樣做，別人也會在一年內做出來。”
技術本身是擋不住的，所以更需要人們來予以約束。
谷歌公司在這個問題上的態度也很有代表性。他們說自己很重視道德責任，但認為如果對新技術嚴加限制，可能會讓延緩開發出一些對人類有益的用途。
計算機科學家法裡德認為這是一種狡辯：“你能想象一個生物學家對人們說：‘嘿，這有一種非常酷的病毒，我們看看如果人人都能感染它會怎麼樣’嗎？”
法裡德說：“這項技術太不成熟了，科技公司必須放慢推廣它的步伐。”
04
它會摧毀我們對外界的信任嗎？
“ZAO”在圖片上傳時，對公眾人物的照片進行了攔截。有用戶疑問說：“它如何充分定義和識別公眾人物呢？”
這種攔截，是因為公眾人物的換臉視頻危害更大，特別是利用他們來發表一些觀點。奧巴馬、特朗普，都曾是此類視頻受害者。
今年6月初，一則以Facebook總裁扎克伯格為素材的換臉視頻在Instagram上傳播開來。在視頻裡，假的扎克伯格說：“試想一下，一個人擁有幾十億人的數據，他知道這些人的祕密、他們的生活，甚至他們的未來。而這些數據全是偷來的。”
扎克伯格的“受害”視頻，以及AI如何幹擾美國政壇。
它以扎克伯格的名義諷刺了他自己。
此前，扎克伯格一直對Facebook上的假視頻態度曖昧，強調不應該由平臺來判斷什麼是真假。
到6月底，扎克伯格宣佈，Facebook已經在制定新的換臉視頻監管政策，來預防它們造成惡劣影響，並且表示：在未來，Facebook可能會完全禁止換臉視頻。
而與此同時，“語音克隆”也取得了突破，現在，只需提供幾秒鐘的語音樣本，就可以模擬出非常相似的人聲。百度，谷歌、Adobe等公司都在開發相似的項目。
視頻加上聲音，恐怕你自己來鑑別都會有難度。
“人在家中坐，禍從天上來。”未來不要感覺太奇怪。
當這種換臉視頻的泛濫，耗盡人們去核查辨別的耐心之後，這種新技術很可能會摧毀公民社會裡的相互信任。
你如何看待換臉AI？
主要參考資料：
https://www.theguardian.com/news/shortcuts/2019/aug/13/danger-deepfakes-viral-video-bill-hader-tom-cruise
https://www.economist.com/the-economist-explains/2019/08/07/what-is-a-deepfake
https://36kr.com/p/5077359
https://www.vice.com/en_us/article/3k7mgn/baidu-deep-voice-software-can-clone-anyones-voice-with-just-37-seconds-of-audio
https://www.cbsnews.com/news/facebook-zuckerberg-says-its-really-important-to-form-policy-on-deepfake-videos/
https://fortune.com/2019/06/26/mark-zuckerberg-facebook-deepfake-videos-policy/
https://www.scmp.com/news/world/united-states-canada/article/2180091/graphic-deepfakeporn-videos-are-being-weaponised
閱讀原文：刷屏的“換臉”，有什麼風險？
點擊鏈接即可閱讀