AI(人工智能)換臉軟件走向大眾的風險之一，是這種軟件可能會被不法分子濫用。
9月3日晚間，澎湃新聞(www.thepaper.cn)記者在二手交易品臺閒魚App上發現，有多位賣家通過AI換臉技術製作出當紅女明星的不雅視頻，進行售賣。
其中一位賣家告訴澎湃新聞記者，他有視頻100部，裡面包括30多位明星。還有一位類似賣家報價稱，75元套餐中有40多位女明星上百部的AI換臉視頻。
北京志霖律師事務所副主任、中國政法大學知識產權研究中心特約研究員趙佔領律師對澎湃新聞表示，這種售賣明星換臉不雅視頻的行為，毫無疑問是構成肖像侵權的，也涉嫌構成名譽侵權。而且還涉嫌構成刑事犯罪，它屬於傳播淫穢物品牟利罪，情節嚴重者可判無期徒刑。
澎湃新聞諮詢閒魚相關人員獲得的迴應是，該平臺對違反公序良俗的商品一貫以來採取零容忍態度，從嚴從重處罰違規行為。
電商平臺不法分子兜售女明星AI換臉視頻
AI換臉技術兩年前在國外出現時，就曾經被“用來換臉色情片女主角”。
2017年12月，在海外出現AI換臉技術時，這項名為“deepfakes”的技術，就曾被少數懂技術的人用來換臉色情片女主角。後來，隨著一款桌面應用程序FakeApp的出現，普通網民也能簡單製作換臉假視頻，互聯網上的假臉視頻開始廣泛流傳。這在海外早已引發爭議。
目前，國內市場上已經有“ZAO”和顏技App攻克了AI換臉技術，將換臉從專業化變成全民化，實現一鍵換臉。這又讓一些不法分子看到了賺錢的機會。
9月3日晚間，澎湃新聞記者在二手交易品臺閒魚App上發現，有多位賣家通過AI換臉技術製作出當紅女明星的不雅視頻，進行售賣。
其中一位賣家提議在qq或者微信進行交易，並告訴澎湃新聞記者，明星換臉合成情境圖的價格如下：一個明星30元，兩個明星40元，三個明星50元，每個明星圖片數量不同，大多數都是300張左右。此外，他還有視頻100部，裡面包括30多位明星。“都是當紅的，有的明星多，有的少。”他說。
澎湃新聞記者詢問賣家能否試看，對方表示不能，併發來了部分資料庫截圖，文件名稱極其露骨。
另外一位類似賣家給出的報價是：75元套餐中有40多位女明星上百部的AI換臉視頻，99元套餐則可“永久外網觀看任意資源”。
對此，澎湃新聞諮詢了閒魚相關人員。對方告訴澎湃新聞，對違反公序良俗的商品一貫以來採取零容忍態度，從嚴從重處罰違規行為。同時，在平臺處理的基礎上，閒魚還將向執法機關舉報涉嫌發佈違規信息的賬號，協助開展線下溯源打擊，追蹤背後的黑灰產團伙。
今年3月20日，閒魚在浙江省網信辦指導下，在互聯網行業內率先發起為期3個月專項治理行動，用最嚴厲手段打擊各類涉嫌違反公序良俗的違規信息。
閒魚相關人員表示，閒魚呼籲公眾發現違規現象時積極向平臺舉報，共同淨化網絡社會環境。
"AI(人工智能)換臉軟件走向大眾的風險之一，是這種軟件可能會被不法分子濫用。
9月3日晚間，澎湃新聞(www.thepaper.cn)記者在二手交易品臺閒魚App上發現，有多位賣家通過AI換臉技術製作出當紅女明星的不雅視頻，進行售賣。
其中一位賣家告訴澎湃新聞記者，他有視頻100部，裡面包括30多位明星。還有一位類似賣家報價稱，75元套餐中有40多位女明星上百部的AI換臉視頻。
北京志霖律師事務所副主任、中國政法大學知識產權研究中心特約研究員趙佔領律師對澎湃新聞表示，這種售賣明星換臉不雅視頻的行為，毫無疑問是構成肖像侵權的，也涉嫌構成名譽侵權。而且還涉嫌構成刑事犯罪，它屬於傳播淫穢物品牟利罪，情節嚴重者可判無期徒刑。
澎湃新聞諮詢閒魚相關人員獲得的迴應是，該平臺對違反公序良俗的商品一貫以來採取零容忍態度，從嚴從重處罰違規行為。
電商平臺不法分子兜售女明星AI換臉視頻
AI換臉技術兩年前在國外出現時，就曾經被“用來換臉色情片女主角”。
2017年12月，在海外出現AI換臉技術時，這項名為“deepfakes”的技術，就曾被少數懂技術的人用來換臉色情片女主角。後來，隨著一款桌面應用程序FakeApp的出現，普通網民也能簡單製作換臉假視頻，互聯網上的假臉視頻開始廣泛流傳。這在海外早已引發爭議。
目前，國內市場上已經有“ZAO”和顏技App攻克了AI換臉技術，將換臉從專業化變成全民化，實現一鍵換臉。這又讓一些不法分子看到了賺錢的機會。
9月3日晚間，澎湃新聞記者在二手交易品臺閒魚App上發現，有多位賣家通過AI換臉技術製作出當紅女明星的不雅視頻，進行售賣。
其中一位賣家提議在qq或者微信進行交易，並告訴澎湃新聞記者，明星換臉合成情境圖的價格如下：一個明星30元，兩個明星40元，三個明星50元，每個明星圖片數量不同，大多數都是300張左右。此外，他還有視頻100部，裡面包括30多位明星。“都是當紅的，有的明星多，有的少。”他說。
澎湃新聞記者詢問賣家能否試看，對方表示不能，併發來了部分資料庫截圖，文件名稱極其露骨。
另外一位類似賣家給出的報價是：75元套餐中有40多位女明星上百部的AI換臉視頻，99元套餐則可“永久外網觀看任意資源”。
對此，澎湃新聞諮詢了閒魚相關人員。對方告訴澎湃新聞，對違反公序良俗的商品一貫以來採取零容忍態度，從嚴從重處罰違規行為。同時，在平臺處理的基礎上，閒魚還將向執法機關舉報涉嫌發佈違規信息的賬號，協助開展線下溯源打擊，追蹤背後的黑灰產團伙。
今年3月20日，閒魚在浙江省網信辦指導下，在互聯網行業內率先發起為期3個月專項治理行動，用最嚴厲手段打擊各類涉嫌違反公序良俗的違規信息。
閒魚相關人員表示，閒魚呼籲公眾發現違規現象時積極向平臺舉報，共同淨化網絡社會環境。
利用AI換臉技術傳播淫穢物品牟利罪嚴重者可判無期徒刑
趙佔領律師對澎湃新聞表示，以上這種售賣明星換臉不雅視頻的行為，涉及兩方面的法律問題，第一個是肖相侵權。按照法律規定，以營利為目的未經授權使用他人肖像，那這屬於是侵犯他人肖像權。所以，將色情視頻換成明星的臉然後去銷售，毫無疑問是構成肖像侵權的。
“第二點，這種做法也侵犯了明星的名譽權，因為他這種做法會導致一些人可能誤認為這是明星本人所出演的這種色情電影。所以導致它的社會評價降低，因此這種行為也涉嫌構成名譽侵權。”趙佔領說。
不僅如此，趙佔領表示，這種行為既涉及到上述兩種民事侵權，同時還涉嫌構成刑事犯罪，它屬於傳播淫穢物品牟利罪，情節嚴重者可判無期徒刑。“所以，一旦認定構成傳播淫穢物品牟利罪，這樣的一個刑事犯罪，那麼他的這個犯罪嫌疑人的責任就重了。根據《刑法》第三百六十三條第一款之規定，犯本罪的，處三年以下有期徒刑、拘役或者管制，並處罰金；情節嚴重的，處三年以上十年以下有期徒刑，並處罰金；情節特別嚴重的，處十年以上有期徒刑或者無期徒刑，並處罰金或者沒收財產。”
趙佔領表示，“至於具體判刑情況，是跟它具體的行為，包括傳播範圍、傳播數量、金額等等有關係的。”
被侵權明星若協商不成可起訴
北京法學會電子商務法治研究會會長邱寶昌律師向澎湃新聞指出，對於AI換臉技術下被侵犯肖像權和名譽權的明星，可採取相應法律措施進行維權。
“第一，你可以要求停止侵權。第二，要求賠償損失。精神損失、造成的經濟損失都可以要求索賠。首先可要求賠償，如果協商協商不成的話，可以起訴。”
在中國裁判文書網中搜索“肖像權“可見，多名當紅明星都曾涉及肖像權維權。其中，有84篇文書與范冰冰的肖像權維權相關，有29篇文書與楊穎的肖像權維權相關，有5篇文書與楊冪的肖像權相關。不過，其中大部分是利用明星肖像做廣告以謀取盈利的案件，目前暫未發現使用AI換臉技術侵犯肖像權的案件。
澎湃新聞就明星肖像權維權諮詢了幾位明星工作室的相關人員，對方均表示，目前暫未遇到AI換臉侵犯肖像權的案例。
"AI(人工智能)換臉軟件走向大眾的風險之一，是這種軟件可能會被不法分子濫用。
9月3日晚間，澎湃新聞(www.thepaper.cn)記者在二手交易品臺閒魚App上發現，有多位賣家通過AI換臉技術製作出當紅女明星的不雅視頻，進行售賣。
其中一位賣家告訴澎湃新聞記者，他有視頻100部，裡面包括30多位明星。還有一位類似賣家報價稱，75元套餐中有40多位女明星上百部的AI換臉視頻。
北京志霖律師事務所副主任、中國政法大學知識產權研究中心特約研究員趙佔領律師對澎湃新聞表示，這種售賣明星換臉不雅視頻的行為，毫無疑問是構成肖像侵權的，也涉嫌構成名譽侵權。而且還涉嫌構成刑事犯罪，它屬於傳播淫穢物品牟利罪，情節嚴重者可判無期徒刑。
澎湃新聞諮詢閒魚相關人員獲得的迴應是，該平臺對違反公序良俗的商品一貫以來採取零容忍態度，從嚴從重處罰違規行為。
電商平臺不法分子兜售女明星AI換臉視頻
AI換臉技術兩年前在國外出現時，就曾經被“用來換臉色情片女主角”。
2017年12月，在海外出現AI換臉技術時，這項名為“deepfakes”的技術，就曾被少數懂技術的人用來換臉色情片女主角。後來，隨著一款桌面應用程序FakeApp的出現，普通網民也能簡單製作換臉假視頻，互聯網上的假臉視頻開始廣泛流傳。這在海外早已引發爭議。
目前，國內市場上已經有“ZAO”和顏技App攻克了AI換臉技術，將換臉從專業化變成全民化，實現一鍵換臉。這又讓一些不法分子看到了賺錢的機會。
9月3日晚間，澎湃新聞記者在二手交易品臺閒魚App上發現，有多位賣家通過AI換臉技術製作出當紅女明星的不雅視頻，進行售賣。
其中一位賣家提議在qq或者微信進行交易，並告訴澎湃新聞記者，明星換臉合成情境圖的價格如下：一個明星30元，兩個明星40元，三個明星50元，每個明星圖片數量不同，大多數都是300張左右。此外，他還有視頻100部，裡面包括30多位明星。“都是當紅的，有的明星多，有的少。”他說。
澎湃新聞記者詢問賣家能否試看，對方表示不能，併發來了部分資料庫截圖，文件名稱極其露骨。
另外一位類似賣家給出的報價是：75元套餐中有40多位女明星上百部的AI換臉視頻，99元套餐則可“永久外網觀看任意資源”。
對此，澎湃新聞諮詢了閒魚相關人員。對方告訴澎湃新聞，對違反公序良俗的商品一貫以來採取零容忍態度，從嚴從重處罰違規行為。同時，在平臺處理的基礎上，閒魚還將向執法機關舉報涉嫌發佈違規信息的賬號，協助開展線下溯源打擊，追蹤背後的黑灰產團伙。
今年3月20日，閒魚在浙江省網信辦指導下，在互聯網行業內率先發起為期3個月專項治理行動，用最嚴厲手段打擊各類涉嫌違反公序良俗的違規信息。
閒魚相關人員表示，閒魚呼籲公眾發現違規現象時積極向平臺舉報，共同淨化網絡社會環境。
利用AI換臉技術傳播淫穢物品牟利罪嚴重者可判無期徒刑
趙佔領律師對澎湃新聞表示，以上這種售賣明星換臉不雅視頻的行為，涉及兩方面的法律問題，第一個是肖相侵權。按照法律規定，以營利為目的未經授權使用他人肖像，那這屬於是侵犯他人肖像權。所以，將色情視頻換成明星的臉然後去銷售，毫無疑問是構成肖像侵權的。
“第二點，這種做法也侵犯了明星的名譽權，因為他這種做法會導致一些人可能誤認為這是明星本人所出演的這種色情電影。所以導致它的社會評價降低，因此這種行為也涉嫌構成名譽侵權。”趙佔領說。
不僅如此，趙佔領表示，這種行為既涉及到上述兩種民事侵權，同時還涉嫌構成刑事犯罪，它屬於傳播淫穢物品牟利罪，情節嚴重者可判無期徒刑。“所以，一旦認定構成傳播淫穢物品牟利罪，這樣的一個刑事犯罪，那麼他的這個犯罪嫌疑人的責任就重了。根據《刑法》第三百六十三條第一款之規定，犯本罪的，處三年以下有期徒刑、拘役或者管制，並處罰金；情節嚴重的，處三年以上十年以下有期徒刑，並處罰金；情節特別嚴重的，處十年以上有期徒刑或者無期徒刑，並處罰金或者沒收財產。”
趙佔領表示，“至於具體判刑情況，是跟它具體的行為，包括傳播範圍、傳播數量、金額等等有關係的。”
被侵權明星若協商不成可起訴
北京法學會電子商務法治研究會會長邱寶昌律師向澎湃新聞指出，對於AI換臉技術下被侵犯肖像權和名譽權的明星，可採取相應法律措施進行維權。
“第一，你可以要求停止侵權。第二，要求賠償損失。精神損失、造成的經濟損失都可以要求索賠。首先可要求賠償，如果協商協商不成的話，可以起訴。”
在中國裁判文書網中搜索“肖像權“可見，多名當紅明星都曾涉及肖像權維權。其中，有84篇文書與范冰冰的肖像權維權相關，有29篇文書與楊穎的肖像權維權相關，有5篇文書與楊冪的肖像權相關。不過，其中大部分是利用明星肖像做廣告以謀取盈利的案件，目前暫未發現使用AI換臉技術侵犯肖像權的案件。
澎湃新聞就明星肖像權維權諮詢了幾位明星工作室的相關人員，對方均表示，目前暫未遇到AI換臉侵犯肖像權的案例。
普通人面部信息洩露引發監管部門關注
那麼，普通人的照片信息被收集後，是否存在被做成色情視頻的可能性呢？
此前有報道稱，在一些電商平臺上，還有賣家表示，可以提供視頻定製換臉產品。只需要買家提供一些被換臉人的照片，賣家便可以將照片中的人臉“轉”到特定視頻中特定人物上去。
雖然上述幾位閒魚上的賣家目前暫未提供此類服務，但這並不意味著將照片中的人臉“轉”到特定視頻中特定人物上去的服務不存在。
對於近期火爆的“ZAO”，趙佔領律師認為，其確實存在用戶面部信息洩露的風險。
“‘ZAO’這個軟件，你要上傳頭像，然後經過認證才能把你的換臉的視頻分享給他人。所以這個認證的過程就是要對用戶的人臉進行識別。至少在這個過程中，他肯定會收集臉部信息數據的，但他會不會保存就不得而知了。因為現在是它自己單方的說法，我們無從判斷。但不排除它存在存儲用戶臉部特徵數據的可能性。”
趙佔領還指出：“它如果存儲這些數據的話那確實有風險。有兩方面的風險，第一個就是它自己保管不當導致這些數據洩露出去，其他人拿著這些數據從事違法犯罪活動，另外一個就是它自身拿這些數據進行非法的使用。”
9月4日，“ZAO”App由於用戶隱私協議不規範，存在數據洩露風險等網絡數據安全問題，已被工信部約談。
雖然在9月3日，“ZAO”曾公開致歉，稱不會存個人面部生物識別特徵信息，且無支付風險。但是，不少網友還是聚集在“ZAO"的微博下，要求註銷賬號並終止授權肖像。
值得一提的是，9月4日上午，“ZAO”的自動回覆是一張寫有指導用戶刪除面孔、註銷賬號的說明圖。
"