'你ZAO嗎?一夜爆紅的AI換臉軟件,背後暗藏哪些問題?'

"

這幾天,賽姑娘的朋友圈被換臉APP“ZAO”合成的視頻刷了屏,上傳這些視頻的都是萌妹子,視頻中的她們造型多變,軟萌可愛。還有的變身紫薇、小燕子,演著劇裡的經典橋段。當然這並不是她們本人,而是通過AI換臉技術,將她們的臉“安”在了明星臉上。

"

這幾天,賽姑娘的朋友圈被換臉APP“ZAO”合成的視頻刷了屏,上傳這些視頻的都是萌妹子,視頻中的她們造型多變,軟萌可愛。還有的變身紫薇、小燕子,演著劇裡的經典橋段。當然這並不是她們本人,而是通過AI換臉技術,將她們的臉“安”在了明星臉上。

你ZAO嗎?一夜爆紅的AI換臉軟件,背後暗藏哪些問題?

肖像權驗證令人忐忑

對於妹子們來說,僅拍照完P圖就能玩上幾小時不挪地兒,更何況變身明星,嘗試百變造型和表情,這種誘惑著實不小。8月31日那天,賽姑娘也禁不住下了一個玩玩。

可以換臉的情境應有盡有,各種大火的劇集、經典電影、唯美MV……然而使用起來第一感受卻是,製作很慢,並且經常製作失敗,或出現“服務器繁忙”的提醒。本來十幾秒就能製作完成的視頻,常常卡在95%後就停滯了。原來這款APP8月30日上線後,在朋友圈病毒式傳播。由於一度太火爆,服務器滿負荷運轉,一度需要排隊。

名為“ZAO官方助手”的微博未認證賬號稱,“這個月花700萬租的服務器,今晚已經消耗1/3了。明天如果繼續火爆,我們只能做嚴格一些的限制。”

只需上傳或自拍一張個人圖片,就能進行AI合成,使用下來,換臉的效果還是不錯的,表情也生動,有的甚至能以假亂真,每次換臉的新鮮感吸引人想不斷換下去。然而生成視頻上不斷浮動的幾個字“未經肖像權驗證,此視頻無法分享”令人掃興。不僅不能分享,連截圖功能無法使用,碰到一個好笑的換臉效果,卻不能和朋友分享,無奈只能拿另一臺手機翻錄。

由於未經肖像權驗證,一個面孔被限制了10次的使用限制。大呼不過癮的賽姑娘決定進行驗證,驗證過程中需要保證充足的光源,需要配合提示做一些動作,如眨眨眼、張開嘴、向左轉頭等,這些驗證操作讓賽姑娘開始猶豫,這樣做安全嗎?是否洩露了個人隱私?

"

這幾天,賽姑娘的朋友圈被換臉APP“ZAO”合成的視頻刷了屏,上傳這些視頻的都是萌妹子,視頻中的她們造型多變,軟萌可愛。還有的變身紫薇、小燕子,演著劇裡的經典橋段。當然這並不是她們本人,而是通過AI換臉技術,將她們的臉“安”在了明星臉上。

你ZAO嗎?一夜爆紅的AI換臉軟件,背後暗藏哪些問題?

肖像權驗證令人忐忑

對於妹子們來說,僅拍照完P圖就能玩上幾小時不挪地兒,更何況變身明星,嘗試百變造型和表情,這種誘惑著實不小。8月31日那天,賽姑娘也禁不住下了一個玩玩。

可以換臉的情境應有盡有,各種大火的劇集、經典電影、唯美MV……然而使用起來第一感受卻是,製作很慢,並且經常製作失敗,或出現“服務器繁忙”的提醒。本來十幾秒就能製作完成的視頻,常常卡在95%後就停滯了。原來這款APP8月30日上線後,在朋友圈病毒式傳播。由於一度太火爆,服務器滿負荷運轉,一度需要排隊。

名為“ZAO官方助手”的微博未認證賬號稱,“這個月花700萬租的服務器,今晚已經消耗1/3了。明天如果繼續火爆,我們只能做嚴格一些的限制。”

只需上傳或自拍一張個人圖片,就能進行AI合成,使用下來,換臉的效果還是不錯的,表情也生動,有的甚至能以假亂真,每次換臉的新鮮感吸引人想不斷換下去。然而生成視頻上不斷浮動的幾個字“未經肖像權驗證,此視頻無法分享”令人掃興。不僅不能分享,連截圖功能無法使用,碰到一個好笑的換臉效果,卻不能和朋友分享,無奈只能拿另一臺手機翻錄。

由於未經肖像權驗證,一個面孔被限制了10次的使用限制。大呼不過癮的賽姑娘決定進行驗證,驗證過程中需要保證充足的光源,需要配合提示做一些動作,如眨眨眼、張開嘴、向左轉頭等,這些驗證操作讓賽姑娘開始猶豫,這樣做安全嗎?是否洩露了個人隱私?

你ZAO嗎?一夜爆紅的AI換臉軟件,背後暗藏哪些問題?

應對爭議ZAO修改協議

果然,賽姑娘搜索相關報道發現,ZAO的用戶協議稱:用戶在使用ZAO的時候,如果把臉換成自己或其他人的臉,意味著同意或確保肖像權利人同意授予“ZAO”及其關聯公司全球範圍內完全免費、不可撤銷、永久、可轉授權和可再許可的權利,包括但不限於:人臉照片、圖片、視頻資料等肖像資料中所含的您或肖像權利人的肖像權,以及利用技術對您或肖像權利人的肖像進行形式改動。

“完全免費”、“永久”等字眼讓人心生忐忑。這一條款也引發了網友爭議。有網友稱:“細思極恐,說不定自己哪天就成情色電影主角了。”不少網友喊話“清除數據庫”。

如今,“ZAO”已經對上述條款進行了修改。在協議開始,增加了一段“特別提示”,稱用戶上傳的短視頻及人臉等相關的內容將嚴格按相關法律法規的規定保留在“ZAO”上。“ZAO”表示,除非為了改善“ZAO”提供的服務或另行取得用戶的再次同意,否則“ZAO”不會以任何其他形式或目的使用上述內容。

同時,用戶可以依據“ZAO”平臺規則撤回或刪除上述內容,在用戶撤回或刪除上述內容後,“ZAO”將依據相關法律法規的規定在服務器上刪除。備受爭議的涉及肖像權的條款也有明顯更改,原有的上傳肖像權可被“ZAO”“完全免費、不可撤銷、永久、可轉授權和可再許可的權利”等文字被刪除。

新浪微博“ZAO官方助手”9月1日做出迴應:“我們十分理解大家對隱私問題的擔憂。你們提的問題都已收到,考慮不周的地方我們會去改,需要一點時間。”

“ZAO”是否會對人臉支付安全構成威脅?“支付寶安全中心”及時發出微博解答網友迷惑:目前,網上各類換臉軟件有很多,但不管換的有多逼真,都是無法突破刷臉支付的。支付寶方面稱,刷臉支付採用的是3D人臉識別技術,在進行人臉識前,也會通過軟硬件結合的方式進行檢測,來判斷採集到的人臉是否是照片、視頻或者軟件模擬生成的,能有效避免各種人臉偽造帶來的身份冒用情況。

微信分享鏈接被停止訪問

搜索新浪微博關於“ZAO”的話題,不少網友表示,“趁著ZAO被查封之前抓緊玩玩”。結果,很快就傳來了微信分享鏈接被停止訪問的消息。

據人民日報報道,上線三天爆紅的AI換臉軟件“ZAO”的微信分享鏈接已被停止訪問。頁面顯示“網頁存在安全風險,被多人投訴,為維護綠色上網環境,已停止訪問”。除了備受關注的隱私安全問題,冷靜下來的受眾也開始關注“ZAO”暴露出的其他問題,如版權問題。

我們在“ZAO”首頁可以刷到大量影視、電影、綜藝片段,甚至無法數清其視頻總量。ZAO在版權聲明中稱,產品上存在的短視頻和表情等素材,除了特別聲明是ZAO跟合作方進行版權合作的之外,均來源於ZAO用戶自發的上傳,ZAO不享有素材的商業版權。

“ZAO”在《用戶協議》中規定:在您上傳及/或發佈用戶內容時,您同意或者確保實際權利人已經同意授予“ZAO”及“ZAO”用戶全球範圍內免費的、可以對用戶內容進行部分的修改或編輯(如將短視頻中的人臉換成另一個人的人臉等)以及對修改或編輯前後的用戶內容進行信息網絡傳播的權利。

中國政法大學知識產權中心特約研究員趙佔領在中新經緯客戶端記者採訪時表示,平臺要求用戶對其上傳的內容進行授權,實際上是希望用戶對於獲取平臺服務支付一定對價。“ZAO”作為提供格式條款的一方,對於免除或者限制自己責任的格式條款,應採取顯著、醒目的方式提醒用戶注意。但該授權淹沒在用戶協議中,絕大多數用戶根本注意不到。

齊魯晚報·齊魯壹點 記者範佳 實習生單曉萍

"

相關推薦

推薦中...