一夜之間，一款名叫ZAO的應用軟件火遍社交網絡。
用戶只需要在App中上傳一張照片，就能將自己的臉替換成各種明星的臉，幾乎可以以假亂真。
"一夜之間，一款名叫ZAO的應用軟件火遍社交網絡。
用戶只需要在App中上傳一張照片，就能將自己的臉替換成各種明星的臉，幾乎可以以假亂真。
不過，在網友們玩得不亦樂乎的同時，關於這種AI換臉玩法的質疑和擔憂也紛至沓來。
1
“我”的臉還屬於“我”嗎？
在ZAO的用戶協議中規定，一旦開始換臉，即“授予ZAO及其關聯公司全球範圍內完全免費、不可撤銷、永久、可轉授權和可再許可的權利…”
"一夜之間，一款名叫ZAO的應用軟件火遍社交網絡。
用戶只需要在App中上傳一張照片，就能將自己的臉替換成各種明星的臉，幾乎可以以假亂真。
不過，在網友們玩得不亦樂乎的同時，關於這種AI換臉玩法的質疑和擔憂也紛至沓來。
1
“我”的臉還屬於“我”嗎？
在ZAO的用戶協議中規定，一旦開始換臉，即“授予ZAO及其關聯公司全球範圍內完全免費、不可撤銷、永久、可轉授權和可再許可的權利…”
也就是說，用戶上傳的肖像和生成的換臉小視頻，已經默認授權給ZAO存儲和管理了，它們會如何管理，用戶肖像會被用到哪裡，用戶自己是不知道的。當然，你也可以不授權，也就無法使用ZAO了。
對此有網友說：我只是拍個視頻就要把我的肖像權永久授予ZAO App？這是什麼霸王條款！
1
“我”的臉會被“黑”嗎？
在ZAO的評論中，不少用戶擔心隱私洩露問題。通過ZAO社交平臺的視頻可以下載，上傳視頻的用戶近照如果一旦被洩露，也有被不法之徒利用的危險。
此前有媒體報道，AI換臉“黑產”已經在國內形成了完整的產業鏈，從下游成品情色視頻、中游定製視頻到上游軟件及教程都有提供，有的賣家甚至提供全產業鏈產品和售後服務。100元就可打包200部換臉情色片，5張照片就可定製視頻。
"一夜之間，一款名叫ZAO的應用軟件火遍社交網絡。
用戶只需要在App中上傳一張照片，就能將自己的臉替換成各種明星的臉，幾乎可以以假亂真。
不過，在網友們玩得不亦樂乎的同時，關於這種AI換臉玩法的質疑和擔憂也紛至沓來。
1
“我”的臉還屬於“我”嗎？
在ZAO的用戶協議中規定，一旦開始換臉，即“授予ZAO及其關聯公司全球範圍內完全免費、不可撤銷、永久、可轉授權和可再許可的權利…”
也就是說，用戶上傳的肖像和生成的換臉小視頻，已經默認授權給ZAO存儲和管理了，它們會如何管理，用戶肖像會被用到哪裡，用戶自己是不知道的。當然，你也可以不授權，也就無法使用ZAO了。
對此有網友說：我只是拍個視頻就要把我的肖像權永久授予ZAO App？這是什麼霸王條款！
1
“我”的臉會被“黑”嗎？
在ZAO的評論中，不少用戶擔心隱私洩露問題。通過ZAO社交平臺的視頻可以下載，上傳視頻的用戶近照如果一旦被洩露，也有被不法之徒利用的危險。
此前有媒體報道，AI換臉“黑產”已經在國內形成了完整的產業鏈，從下游成品情色視頻、中游定製視頻到上游軟件及教程都有提供，有的賣家甚至提供全產業鏈產品和售後服務。100元就可打包200部換臉情色片，5張照片就可定製視頻。
另一方面，雖然ZAO使用過程中需要對肖像權進行驗證，但是每張用戶所上傳的未經驗證的照片都會擁有10次製作視頻的機會，這意味著，用戶有機會利用他人照片製作換臉視頻。
在今年六月，Facebook CEO馬克·扎克伯格就曾被惡意“換過臉”。
"一夜之間，一款名叫ZAO的應用軟件火遍社交網絡。
用戶只需要在App中上傳一張照片，就能將自己的臉替換成各種明星的臉，幾乎可以以假亂真。
不過，在網友們玩得不亦樂乎的同時，關於這種AI換臉玩法的質疑和擔憂也紛至沓來。
1
“我”的臉還屬於“我”嗎？
在ZAO的用戶協議中規定，一旦開始換臉，即“授予ZAO及其關聯公司全球範圍內完全免費、不可撤銷、永久、可轉授權和可再許可的權利…”
也就是說，用戶上傳的肖像和生成的換臉小視頻，已經默認授權給ZAO存儲和管理了，它們會如何管理，用戶肖像會被用到哪裡，用戶自己是不知道的。當然，你也可以不授權，也就無法使用ZAO了。
對此有網友說：我只是拍個視頻就要把我的肖像權永久授予ZAO App？這是什麼霸王條款！
1
“我”的臉會被“黑”嗎？
在ZAO的評論中，不少用戶擔心隱私洩露問題。通過ZAO社交平臺的視頻可以下載，上傳視頻的用戶近照如果一旦被洩露，也有被不法之徒利用的危險。
此前有媒體報道，AI換臉“黑產”已經在國內形成了完整的產業鏈，從下游成品情色視頻、中游定製視頻到上游軟件及教程都有提供，有的賣家甚至提供全產業鏈產品和售後服務。100元就可打包200部換臉情色片，5張照片就可定製視頻。
另一方面，雖然ZAO使用過程中需要對肖像權進行驗證，但是每張用戶所上傳的未經驗證的照片都會擁有10次製作視頻的機會，這意味著，用戶有機會利用他人照片製作換臉視頻。
在今年六月，Facebook CEO馬克·扎克伯格就曾被惡意“換過臉”。
不過，ZAO對於公眾人物有特別保護，如果照片監測到公眾人物，則無法添加圖片。
"一夜之間，一款名叫ZAO的應用軟件火遍社交網絡。
用戶只需要在App中上傳一張照片，就能將自己的臉替換成各種明星的臉，幾乎可以以假亂真。
不過，在網友們玩得不亦樂乎的同時，關於這種AI換臉玩法的質疑和擔憂也紛至沓來。
1
“我”的臉還屬於“我”嗎？
在ZAO的用戶協議中規定，一旦開始換臉，即“授予ZAO及其關聯公司全球範圍內完全免費、不可撤銷、永久、可轉授權和可再許可的權利…”
也就是說，用戶上傳的肖像和生成的換臉小視頻，已經默認授權給ZAO存儲和管理了，它們會如何管理，用戶肖像會被用到哪裡，用戶自己是不知道的。當然，你也可以不授權，也就無法使用ZAO了。
對此有網友說：我只是拍個視頻就要把我的肖像權永久授予ZAO App？這是什麼霸王條款！
1
“我”的臉會被“黑”嗎？
在ZAO的評論中，不少用戶擔心隱私洩露問題。通過ZAO社交平臺的視頻可以下載，上傳視頻的用戶近照如果一旦被洩露，也有被不法之徒利用的危險。
此前有媒體報道，AI換臉“黑產”已經在國內形成了完整的產業鏈，從下游成品情色視頻、中游定製視頻到上游軟件及教程都有提供，有的賣家甚至提供全產業鏈產品和售後服務。100元就可打包200部換臉情色片，5張照片就可定製視頻。
另一方面，雖然ZAO使用過程中需要對肖像權進行驗證，但是每張用戶所上傳的未經驗證的照片都會擁有10次製作視頻的機會，這意味著，用戶有機會利用他人照片製作換臉視頻。
在今年六月，Facebook CEO馬克·扎克伯格就曾被惡意“換過臉”。
不過，ZAO對於公眾人物有特別保護，如果照片監測到公眾人物，則無法添加圖片。
1
刷臉支付、視頻解鎖要被破解？
在刷臉支付盛行的背景下，有人質疑“換臉”後的小視頻若落入他人之手，可能會利用合成視頻向家人勒索錢財，或是盜刷賬戶。
"一夜之間，一款名叫ZAO的應用軟件火遍社交網絡。
用戶只需要在App中上傳一張照片，就能將自己的臉替換成各種明星的臉，幾乎可以以假亂真。
不過，在網友們玩得不亦樂乎的同時，關於這種AI換臉玩法的質疑和擔憂也紛至沓來。
1
“我”的臉還屬於“我”嗎？
在ZAO的用戶協議中規定，一旦開始換臉，即“授予ZAO及其關聯公司全球範圍內完全免費、不可撤銷、永久、可轉授權和可再許可的權利…”
也就是說，用戶上傳的肖像和生成的換臉小視頻，已經默認授權給ZAO存儲和管理了，它們會如何管理，用戶肖像會被用到哪裡，用戶自己是不知道的。當然，你也可以不授權，也就無法使用ZAO了。
對此有網友說：我只是拍個視頻就要把我的肖像權永久授予ZAO App？這是什麼霸王條款！
1
“我”的臉會被“黑”嗎？
在ZAO的評論中，不少用戶擔心隱私洩露問題。通過ZAO社交平臺的視頻可以下載，上傳視頻的用戶近照如果一旦被洩露，也有被不法之徒利用的危險。
此前有媒體報道，AI換臉“黑產”已經在國內形成了完整的產業鏈，從下游成品情色視頻、中游定製視頻到上游軟件及教程都有提供，有的賣家甚至提供全產業鏈產品和售後服務。100元就可打包200部換臉情色片，5張照片就可定製視頻。
另一方面，雖然ZAO使用過程中需要對肖像權進行驗證，但是每張用戶所上傳的未經驗證的照片都會擁有10次製作視頻的機會，這意味著，用戶有機會利用他人照片製作換臉視頻。
在今年六月，Facebook CEO馬克·扎克伯格就曾被惡意“換過臉”。
不過，ZAO對於公眾人物有特別保護，如果照片監測到公眾人物，則無法添加圖片。
1
刷臉支付、視頻解鎖要被破解？
在刷臉支付盛行的背景下，有人質疑“換臉”後的小視頻若落入他人之手，可能會利用合成視頻向家人勒索錢財，或是盜刷賬戶。
對此，螞蟻金服官方回覆：
“刷臉支付”採用的是3D人臉識別技術，在進行人臉識別前，會通過軟硬件結合的方式進行檢測，來判斷採集到的人臉是否是照片、視頻或者軟件模擬生成，能有效地避免各種人臉偽造帶來的身份冒用情況。
即便出現賬戶被冒用的極小概率事件，支付寶也會通過保險公司進行全額賠付。
另有一位國有大行網絡金融部負責人表示：
在活體檢測、視頻攻擊等方面存在一定風險。後臺算法升級會使防控效果有一定提升，但是類似換臉的攻擊威脅會一直存在。
目前，手機銀行用人臉識別來進行輔助認證，還要輔以短信等其他認證工具。小額支付領域風險較小，強調便捷，在有相關賠付保障的情況下采取人臉識別問題不大。
1
視頻素材的版權如何保證？
在ZAO的版權聲明中說：“ZAO產品上存在的短視頻和表情等素材，除了特別聲明是ZAO跟合作方進行版權合作的之外，均來源於ZAO用戶自發的上傳，ZAO不享有素材的商業版權。”
但在使用過程中，很少有看到有特別聲明的素材。
"一夜之間，一款名叫ZAO的應用軟件火遍社交網絡。
用戶只需要在App中上傳一張照片，就能將自己的臉替換成各種明星的臉，幾乎可以以假亂真。
不過，在網友們玩得不亦樂乎的同時，關於這種AI換臉玩法的質疑和擔憂也紛至沓來。
1
“我”的臉還屬於“我”嗎？
在ZAO的用戶協議中規定，一旦開始換臉，即“授予ZAO及其關聯公司全球範圍內完全免費、不可撤銷、永久、可轉授權和可再許可的權利…”
也就是說，用戶上傳的肖像和生成的換臉小視頻，已經默認授權給ZAO存儲和管理了，它們會如何管理，用戶肖像會被用到哪裡，用戶自己是不知道的。當然，你也可以不授權，也就無法使用ZAO了。
對此有網友說：我只是拍個視頻就要把我的肖像權永久授予ZAO App？這是什麼霸王條款！
1
“我”的臉會被“黑”嗎？
在ZAO的評論中，不少用戶擔心隱私洩露問題。通過ZAO社交平臺的視頻可以下載，上傳視頻的用戶近照如果一旦被洩露，也有被不法之徒利用的危險。
此前有媒體報道，AI換臉“黑產”已經在國內形成了完整的產業鏈，從下游成品情色視頻、中游定製視頻到上游軟件及教程都有提供，有的賣家甚至提供全產業鏈產品和售後服務。100元就可打包200部換臉情色片，5張照片就可定製視頻。
另一方面，雖然ZAO使用過程中需要對肖像權進行驗證，但是每張用戶所上傳的未經驗證的照片都會擁有10次製作視頻的機會，這意味著，用戶有機會利用他人照片製作換臉視頻。
在今年六月，Facebook CEO馬克·扎克伯格就曾被惡意“換過臉”。
不過，ZAO對於公眾人物有特別保護，如果照片監測到公眾人物，則無法添加圖片。
1
刷臉支付、視頻解鎖要被破解？
在刷臉支付盛行的背景下，有人質疑“換臉”後的小視頻若落入他人之手，可能會利用合成視頻向家人勒索錢財，或是盜刷賬戶。
對此，螞蟻金服官方回覆：
“刷臉支付”採用的是3D人臉識別技術，在進行人臉識別前，會通過軟硬件結合的方式進行檢測，來判斷採集到的人臉是否是照片、視頻或者軟件模擬生成，能有效地避免各種人臉偽造帶來的身份冒用情況。
即便出現賬戶被冒用的極小概率事件，支付寶也會通過保險公司進行全額賠付。
另有一位國有大行網絡金融部負責人表示：
在活體檢測、視頻攻擊等方面存在一定風險。後臺算法升級會使防控效果有一定提升，但是類似換臉的攻擊威脅會一直存在。
目前，手機銀行用人臉識別來進行輔助認證，還要輔以短信等其他認證工具。小額支付領域風險較小，強調便捷，在有相關賠付保障的情況下采取人臉識別問題不大。
1
視頻素材的版權如何保證？
在ZAO的版權聲明中說：“ZAO產品上存在的短視頻和表情等素材，除了特別聲明是ZAO跟合作方進行版權合作的之外，均來源於ZAO用戶自發的上傳，ZAO不享有素材的商業版權。”
但在使用過程中，很少有看到有特別聲明的素材。
此外，在上傳素材的菜單下，顯示上傳素材需要通過權限認證，但認證並沒有開放，灰色按鈕顯示“暫停申請”，那現有的這些用戶上傳的素材是哪來的呢？
對此，中國政法大學知識產權中心特約研究員趙佔領稱，用戶未經授權將影視劇的片段上傳到平臺，該行為構成版權侵權，ZAO對於用戶的侵權行為是否承擔責任一般根據通知刪除規則來判斷，即當權利人向ZAO發出侵權通知後，ZAO應該及時刪除侵權內容。
1
AI換臉“創造者”已被“封殺”
早在2017年12月，國外某ID名為“deepfakes”的Reddit論壇用戶首次將自己製作的AI換臉視頻發佈在了網絡上。
"一夜之間，一款名叫ZAO的應用軟件火遍社交網絡。
用戶只需要在App中上傳一張照片，就能將自己的臉替換成各種明星的臉，幾乎可以以假亂真。
不過，在網友們玩得不亦樂乎的同時，關於這種AI換臉玩法的質疑和擔憂也紛至沓來。
1
“我”的臉還屬於“我”嗎？
在ZAO的用戶協議中規定，一旦開始換臉，即“授予ZAO及其關聯公司全球範圍內完全免費、不可撤銷、永久、可轉授權和可再許可的權利…”
也就是說，用戶上傳的肖像和生成的換臉小視頻，已經默認授權給ZAO存儲和管理了，它們會如何管理，用戶肖像會被用到哪裡，用戶自己是不知道的。當然，你也可以不授權，也就無法使用ZAO了。
對此有網友說：我只是拍個視頻就要把我的肖像權永久授予ZAO App？這是什麼霸王條款！
1
“我”的臉會被“黑”嗎？
在ZAO的評論中，不少用戶擔心隱私洩露問題。通過ZAO社交平臺的視頻可以下載，上傳視頻的用戶近照如果一旦被洩露，也有被不法之徒利用的危險。
此前有媒體報道，AI換臉“黑產”已經在國內形成了完整的產業鏈，從下游成品情色視頻、中游定製視頻到上游軟件及教程都有提供，有的賣家甚至提供全產業鏈產品和售後服務。100元就可打包200部換臉情色片，5張照片就可定製視頻。
另一方面，雖然ZAO使用過程中需要對肖像權進行驗證，但是每張用戶所上傳的未經驗證的照片都會擁有10次製作視頻的機會，這意味著，用戶有機會利用他人照片製作換臉視頻。
在今年六月，Facebook CEO馬克·扎克伯格就曾被惡意“換過臉”。
不過，ZAO對於公眾人物有特別保護，如果照片監測到公眾人物，則無法添加圖片。
1
刷臉支付、視頻解鎖要被破解？
在刷臉支付盛行的背景下，有人質疑“換臉”後的小視頻若落入他人之手，可能會利用合成視頻向家人勒索錢財，或是盜刷賬戶。
對此，螞蟻金服官方回覆：
“刷臉支付”採用的是3D人臉識別技術，在進行人臉識別前，會通過軟硬件結合的方式進行檢測，來判斷採集到的人臉是否是照片、視頻或者軟件模擬生成，能有效地避免各種人臉偽造帶來的身份冒用情況。
即便出現賬戶被冒用的極小概率事件，支付寶也會通過保險公司進行全額賠付。
另有一位國有大行網絡金融部負責人表示：
在活體檢測、視頻攻擊等方面存在一定風險。後臺算法升級會使防控效果有一定提升，但是類似換臉的攻擊威脅會一直存在。
目前，手機銀行用人臉識別來進行輔助認證，還要輔以短信等其他認證工具。小額支付領域風險較小，強調便捷，在有相關賠付保障的情況下采取人臉識別問題不大。
1
視頻素材的版權如何保證？
在ZAO的版權聲明中說：“ZAO產品上存在的短視頻和表情等素材，除了特別聲明是ZAO跟合作方進行版權合作的之外，均來源於ZAO用戶自發的上傳，ZAO不享有素材的商業版權。”
但在使用過程中，很少有看到有特別聲明的素材。
此外，在上傳素材的菜單下，顯示上傳素材需要通過權限認證，但認證並沒有開放，灰色按鈕顯示“暫停申請”，那現有的這些用戶上傳的素材是哪來的呢？
對此，中國政法大學知識產權中心特約研究員趙佔領稱，用戶未經授權將影視劇的片段上傳到平臺，該行為構成版權侵權，ZAO對於用戶的侵權行為是否承擔責任一般根據通知刪除規則來判斷，即當權利人向ZAO發出侵權通知後，ZAO應該及時刪除侵權內容。
1
AI換臉“創造者”已被“封殺”
早在2017年12月，國外某ID名為“deepfakes”的Reddit論壇用戶首次將自己製作的AI換臉視頻發佈在了網絡上。
deepfakes在Reddit上上傳的部分換臉視頻
當時，“deepfakes”把情色電影裡的女主角換成了蓋爾·加朵等好萊塢明星，這也是人們第一次公開見識到AI換臉的強大。
隨後，由於大量受害者的投訴，Reddit論壇迫於壓力封殺了“deepfakes”的賬號。不過這次封殺卻讓“deepfakes”直接開源了其AI換臉項目的代碼，這使得該項技術立刻風靡全球。
目前，由於AI換臉技術帶來的負面影響，國外已經掀起了“反AI換臉”熱潮，不少公司開始研究反AI換臉方法。
責編：李兆穎編審：劉志軍素材來源：中國經營報、新京報、智東西、虎嗅APP、21世紀經濟報道
"