上線短短6天，AI換臉軟件“ZAO_逢臉造戲”就體驗了從爆紅到被要求整改的巨大落差感。
8月30日，“ZAO”上線後迅速火爆，登上各大應用商店下載榜首位。在爆紅的同時，“ZAO”也持續被質疑存在用戶隱私協議不規範、數據洩露風險等網絡數據安全問題。有律師向南都記者表示，其用戶協議屬於“霸王條款”，應屬無效的格式條款。9月3日，工信部約談“ZAO”的孵化團隊——北京陌陌科技有限公司被，要求其組織開展自查整改。
南都記者從一家專注於AI業務的企業瞭解到，相對於“換臉”技術本身，安全風險更集中於人臉信息的收集、加工、存儲和傳輸等環節。企業應設計特別的授權同意流程，並在確定收集利用前在內部進行嚴格的安全評估和制定應急預案，在數據的處理與使用過程中，也需建立嚴格的管控機制。
"上線短短6天，AI換臉軟件“ZAO_逢臉造戲”就體驗了從爆紅到被要求整改的巨大落差感。
8月30日，“ZAO”上線後迅速火爆，登上各大應用商店下載榜首位。在爆紅的同時，“ZAO”也持續被質疑存在用戶隱私協議不規範、數據洩露風險等網絡數據安全問題。有律師向南都記者表示，其用戶協議屬於“霸王條款”，應屬無效的格式條款。9月3日，工信部約談“ZAO”的孵化團隊——北京陌陌科技有限公司被，要求其組織開展自查整改。
南都記者從一家專注於AI業務的企業瞭解到，相對於“換臉”技術本身，安全風險更集中於人臉信息的收集、加工、存儲和傳輸等環節。企業應設計特別的授權同意流程，並在確定收集利用前在內部進行嚴格的安全評估和制定應急預案，在數據的處理與使用過程中，也需建立嚴格的管控機制。
、
“ZAO” 經歷了什麼？
8月30日，“僅需一張照片，出演天下好戲”的AI換臉軟件“ZAO”陸續在各大應用商店上線，該軟件主打AI視頻換臉，用戶只需上傳人臉信息，即可將自己換成影視劇的主角。由於換臉效果真實，上線當晚便刷屏朋友圈，以至於“ZAO”發博表示，“這個月花700萬租的服務器，今晚已經消耗1/3了”。
8月31日13時，“ZAO”已經排蘋果商店娛樂類免費榜首位，免費應用榜第二。
與此同時，不斷有用戶質疑“ZAO”的用戶隱私協議不規範，存在數據洩露風險等網絡數據安全問題。部分用戶不滿“ZAO”的沉默，前往應用商店給軟件打低分。截至8月31日23時，在“ZAO”最先登陸的蘋果商店上，“ZAO”的軟件評分為2.2。
8月31日，南都記者實測發現，“ZAO”存在註銷賬戶困難的問題。用戶在註銷過程中，會出現提示“手機驗證碼錯誤或過期”而無法註銷的情況。
9月1日，“ZAO”官博發聲，表示“理解大家對於隱私問題的擔憂。考慮不周的地方我們會去改，需要一點時間”。同時，“ZAO”刪除了早前含有爭議的“用戶須授予ZAO完全免費、不可撤銷、永久、可轉授權和可再許可的權利”的內容。
但仍有“您同意或者確保實際權利人已經同意授予‘ZAO’及‘ZAO’用戶全球範圍內免費的、可以對用戶內容進行部分的修改或編輯以及對修改或編輯前後的用戶內容進行信息網絡傳播的權利”等內容。
"上線短短6天，AI換臉軟件“ZAO_逢臉造戲”就體驗了從爆紅到被要求整改的巨大落差感。
8月30日，“ZAO”上線後迅速火爆，登上各大應用商店下載榜首位。在爆紅的同時，“ZAO”也持續被質疑存在用戶隱私協議不規範、數據洩露風險等網絡數據安全問題。有律師向南都記者表示，其用戶協議屬於“霸王條款”，應屬無效的格式條款。9月3日，工信部約談“ZAO”的孵化團隊——北京陌陌科技有限公司被，要求其組織開展自查整改。
南都記者從一家專注於AI業務的企業瞭解到，相對於“換臉”技術本身，安全風險更集中於人臉信息的收集、加工、存儲和傳輸等環節。企業應設計特別的授權同意流程，並在確定收集利用前在內部進行嚴格的安全評估和制定應急預案，在數據的處理與使用過程中，也需建立嚴格的管控機制。
、
“ZAO” 經歷了什麼？
8月30日，“僅需一張照片，出演天下好戲”的AI換臉軟件“ZAO”陸續在各大應用商店上線，該軟件主打AI視頻換臉，用戶只需上傳人臉信息，即可將自己換成影視劇的主角。由於換臉效果真實，上線當晚便刷屏朋友圈，以至於“ZAO”發博表示，“這個月花700萬租的服務器，今晚已經消耗1/3了”。
8月31日13時，“ZAO”已經排蘋果商店娛樂類免費榜首位，免費應用榜第二。
與此同時，不斷有用戶質疑“ZAO”的用戶隱私協議不規範，存在數據洩露風險等網絡數據安全問題。部分用戶不滿“ZAO”的沉默，前往應用商店給軟件打低分。截至8月31日23時，在“ZAO”最先登陸的蘋果商店上，“ZAO”的軟件評分為2.2。
8月31日，南都記者實測發現，“ZAO”存在註銷賬戶困難的問題。用戶在註銷過程中，會出現提示“手機驗證碼錯誤或過期”而無法註銷的情況。
9月1日，“ZAO”官博發聲，表示“理解大家對於隱私問題的擔憂。考慮不周的地方我們會去改，需要一點時間”。同時，“ZAO”刪除了早前含有爭議的“用戶須授予ZAO完全免費、不可撤銷、永久、可轉授權和可再許可的權利”的內容。
但仍有“您同意或者確保實際權利人已經同意授予‘ZAO’及‘ZAO’用戶全球範圍內免費的、可以對用戶內容進行部分的修改或編輯以及對修改或編輯前後的用戶內容進行信息網絡傳播的權利”等內容。
9月2日，“ZAO”的微信分享鏈接顯示已停止訪問，頁面顯示“網頁存在安全風險，被多人投訴，為維護綠色上網環境，已停止訪問”。同時，賬戶註銷困難問題被解決，但用戶註銷成功後，頁面會提示“你已被踢出”，引發不滿。“ZAO”迴應稱，“是一個BUG，測試不充分，下一個版本會修復” 。
9月3日，“ZAO”官博再度發聲明，迴應了臉部信息採集與儲存、支付風險、註銷及刪除等問題，表示不會存儲用戶上傳的面部生物特徵信息，且強調“換臉”不可能威脅支付安全。南都記者留意到，“ZAO”再次修改用戶協議，新增“特別提示”，修改後的用戶協議會在新用戶註冊時彈出，新用戶需“已閱讀並同意用戶協議”才可註冊。
"上線短短6天，AI換臉軟件“ZAO_逢臉造戲”就體驗了從爆紅到被要求整改的巨大落差感。
8月30日，“ZAO”上線後迅速火爆，登上各大應用商店下載榜首位。在爆紅的同時，“ZAO”也持續被質疑存在用戶隱私協議不規範、數據洩露風險等網絡數據安全問題。有律師向南都記者表示，其用戶協議屬於“霸王條款”，應屬無效的格式條款。9月3日，工信部約談“ZAO”的孵化團隊——北京陌陌科技有限公司被，要求其組織開展自查整改。
南都記者從一家專注於AI業務的企業瞭解到，相對於“換臉”技術本身，安全風險更集中於人臉信息的收集、加工、存儲和傳輸等環節。企業應設計特別的授權同意流程，並在確定收集利用前在內部進行嚴格的安全評估和制定應急預案，在數據的處理與使用過程中，也需建立嚴格的管控機制。
、
“ZAO” 經歷了什麼？
8月30日，“僅需一張照片，出演天下好戲”的AI換臉軟件“ZAO”陸續在各大應用商店上線，該軟件主打AI視頻換臉，用戶只需上傳人臉信息，即可將自己換成影視劇的主角。由於換臉效果真實，上線當晚便刷屏朋友圈，以至於“ZAO”發博表示，“這個月花700萬租的服務器，今晚已經消耗1/3了”。
8月31日13時，“ZAO”已經排蘋果商店娛樂類免費榜首位，免費應用榜第二。
與此同時，不斷有用戶質疑“ZAO”的用戶隱私協議不規範，存在數據洩露風險等網絡數據安全問題。部分用戶不滿“ZAO”的沉默，前往應用商店給軟件打低分。截至8月31日23時，在“ZAO”最先登陸的蘋果商店上，“ZAO”的軟件評分為2.2。
8月31日，南都記者實測發現，“ZAO”存在註銷賬戶困難的問題。用戶在註銷過程中，會出現提示“手機驗證碼錯誤或過期”而無法註銷的情況。
9月1日，“ZAO”官博發聲，表示“理解大家對於隱私問題的擔憂。考慮不周的地方我們會去改，需要一點時間”。同時，“ZAO”刪除了早前含有爭議的“用戶須授予ZAO完全免費、不可撤銷、永久、可轉授權和可再許可的權利”的內容。
但仍有“您同意或者確保實際權利人已經同意授予‘ZAO’及‘ZAO’用戶全球範圍內免費的、可以對用戶內容進行部分的修改或編輯以及對修改或編輯前後的用戶內容進行信息網絡傳播的權利”等內容。
9月2日，“ZAO”的微信分享鏈接顯示已停止訪問，頁面顯示“網頁存在安全風險，被多人投訴，為維護綠色上網環境，已停止訪問”。同時，賬戶註銷困難問題被解決，但用戶註銷成功後，頁面會提示“你已被踢出”，引發不滿。“ZAO”迴應稱，“是一個BUG，測試不充分，下一個版本會修復” 。
9月3日，“ZAO”官博再度發聲明，迴應了臉部信息採集與儲存、支付風險、註銷及刪除等問題，表示不會存儲用戶上傳的面部生物特徵信息，且強調“換臉”不可能威脅支付安全。南都記者留意到，“ZAO”再次修改用戶協議，新增“特別提示”，修改後的用戶協議會在新用戶註冊時彈出，新用戶需“已閱讀並同意用戶協議”才可註冊。
9月4日，據工業和信息化部官博消息，9月3日工業和信息化部網絡安全管理局對北京陌陌科技有限公司相關負責人進行了問詢約談。工信部要求“ZAO”嚴格按照國家法律法規以及相關主管部門要求，組織開展自查整改，依法依規收集使用用戶個人信息，規範協議條款，強化網絡數據和用戶個人信息安全保護。同時，要進一步加強新技術新業務安全評估，切實採取有效措施，積極防範自有業務平臺被利用實施電信網絡詐騙等風險隱患。
“ZAO”做錯了什麼？
首先，用戶協議涉嫌過度收集用戶隱私是“ZAO”引起用戶不滿的重要原因。
“ZAO”的用戶協議被質疑過度攫取用戶的個人信息，且有“霸王條款”之嫌。“ZAO”第一版用戶協議第6條第2款中，有要求“用戶須授予ZAO完全免費、不可撤銷、永久、可轉授權和可再許可的權利，包括但不限於：人臉照片、圖片、視頻資料等肖像資料中所含的您或肖像權利人的肖像權，以及利用技術對您或肖像權利人的肖像進行形式改動”的內容。
廣東深宏盾律師事務所黃浩律師向南都記者表示，“消費者沒有任何權利去對這個條款提出質疑或者修改，只能同意才能用軟件，這屬於霸王條款”。
廣東合拓律師事務所王華鋒律師告訴南都記者，雖然簽署了用戶協議，但並不意味著就可以對用戶的肖像進行無限制、無約束地使用，甚至濫用。如果該用戶協議中有關條款存在免除己方責任，加重對方責任、排除對方主要權利的，則該格式條款無效。
其二，“ZAO”存在數據洩露的風險也是受到用戶詬病的原因。有用戶擔心，一旦臉部生物識別特徵信息被洩露，會被不法分子濫用。
一位研究人工智能領域的高校學者告訴南都記者，AI換臉實際上是一種基於人工智能深度學習的人體圖像合成技術，在安全支付領域，各類換臉軟件的技術水平尚無法構成威脅。但他表示，AI換臉技術具有“矛和盾”的問題，總有不法分子針對漏洞進行破解，對個人安全來說是存在一定的風險的。
國內較早使用深度學習技術提供服務的廣州圖普科技網絡公司向南都記者介紹，相對於“換臉”技術本身，安全風險更集中於人臉信息的收集、加工、存儲和傳輸等環節。由於人臉識別具有高度的直接識別性和唯一性，因此在對人臉信息處理的過程中，存在更高的數據洩露、非法濫用、盜用等隱患。一旦APP被黑客攻破，相關的用戶信息就有可能流入黑產的地下數據庫，被不法分子拿來獲取利益。
其三，“ZAO”還被質疑涉嫌使用未經授權的影視劇，可能面臨侵犯著作權的風險。
ZAO的版權聲明表示：“ZAO產品上存在的短視頻和表情等素材，除了特別聲明是ZAO跟合作方進行版權合作的之外，均來源於ZAO用戶自發的上傳，ZAO不享有素材的商業版權。”
"上線短短6天，AI換臉軟件“ZAO_逢臉造戲”就體驗了從爆紅到被要求整改的巨大落差感。
8月30日，“ZAO”上線後迅速火爆，登上各大應用商店下載榜首位。在爆紅的同時，“ZAO”也持續被質疑存在用戶隱私協議不規範、數據洩露風險等網絡數據安全問題。有律師向南都記者表示，其用戶協議屬於“霸王條款”，應屬無效的格式條款。9月3日，工信部約談“ZAO”的孵化團隊——北京陌陌科技有限公司被，要求其組織開展自查整改。
南都記者從一家專注於AI業務的企業瞭解到，相對於“換臉”技術本身，安全風險更集中於人臉信息的收集、加工、存儲和傳輸等環節。企業應設計特別的授權同意流程，並在確定收集利用前在內部進行嚴格的安全評估和制定應急預案，在數據的處理與使用過程中，也需建立嚴格的管控機制。
、
“ZAO” 經歷了什麼？
8月30日，“僅需一張照片，出演天下好戲”的AI換臉軟件“ZAO”陸續在各大應用商店上線，該軟件主打AI視頻換臉，用戶只需上傳人臉信息，即可將自己換成影視劇的主角。由於換臉效果真實，上線當晚便刷屏朋友圈，以至於“ZAO”發博表示，“這個月花700萬租的服務器，今晚已經消耗1/3了”。
8月31日13時，“ZAO”已經排蘋果商店娛樂類免費榜首位，免費應用榜第二。
與此同時，不斷有用戶質疑“ZAO”的用戶隱私協議不規範，存在數據洩露風險等網絡數據安全問題。部分用戶不滿“ZAO”的沉默，前往應用商店給軟件打低分。截至8月31日23時，在“ZAO”最先登陸的蘋果商店上，“ZAO”的軟件評分為2.2。
8月31日，南都記者實測發現，“ZAO”存在註銷賬戶困難的問題。用戶在註銷過程中，會出現提示“手機驗證碼錯誤或過期”而無法註銷的情況。
9月1日，“ZAO”官博發聲，表示“理解大家對於隱私問題的擔憂。考慮不周的地方我們會去改，需要一點時間”。同時，“ZAO”刪除了早前含有爭議的“用戶須授予ZAO完全免費、不可撤銷、永久、可轉授權和可再許可的權利”的內容。
但仍有“您同意或者確保實際權利人已經同意授予‘ZAO’及‘ZAO’用戶全球範圍內免費的、可以對用戶內容進行部分的修改或編輯以及對修改或編輯前後的用戶內容進行信息網絡傳播的權利”等內容。
9月2日，“ZAO”的微信分享鏈接顯示已停止訪問，頁面顯示“網頁存在安全風險，被多人投訴，為維護綠色上網環境，已停止訪問”。同時，賬戶註銷困難問題被解決，但用戶註銷成功後，頁面會提示“你已被踢出”，引發不滿。“ZAO”迴應稱，“是一個BUG，測試不充分，下一個版本會修復” 。
9月3日，“ZAO”官博再度發聲明，迴應了臉部信息採集與儲存、支付風險、註銷及刪除等問題，表示不會存儲用戶上傳的面部生物特徵信息，且強調“換臉”不可能威脅支付安全。南都記者留意到，“ZAO”再次修改用戶協議，新增“特別提示”，修改後的用戶協議會在新用戶註冊時彈出，新用戶需“已閱讀並同意用戶協議”才可註冊。
9月4日，據工業和信息化部官博消息，9月3日工業和信息化部網絡安全管理局對北京陌陌科技有限公司相關負責人進行了問詢約談。工信部要求“ZAO”嚴格按照國家法律法規以及相關主管部門要求，組織開展自查整改，依法依規收集使用用戶個人信息，規範協議條款，強化網絡數據和用戶個人信息安全保護。同時，要進一步加強新技術新業務安全評估，切實採取有效措施，積極防範自有業務平臺被利用實施電信網絡詐騙等風險隱患。
“ZAO”做錯了什麼？
首先，用戶協議涉嫌過度收集用戶隱私是“ZAO”引起用戶不滿的重要原因。
“ZAO”的用戶協議被質疑過度攫取用戶的個人信息，且有“霸王條款”之嫌。“ZAO”第一版用戶協議第6條第2款中，有要求“用戶須授予ZAO完全免費、不可撤銷、永久、可轉授權和可再許可的權利，包括但不限於：人臉照片、圖片、視頻資料等肖像資料中所含的您或肖像權利人的肖像權，以及利用技術對您或肖像權利人的肖像進行形式改動”的內容。
廣東深宏盾律師事務所黃浩律師向南都記者表示，“消費者沒有任何權利去對這個條款提出質疑或者修改，只能同意才能用軟件，這屬於霸王條款”。
廣東合拓律師事務所王華鋒律師告訴南都記者，雖然簽署了用戶協議，但並不意味著就可以對用戶的肖像進行無限制、無約束地使用，甚至濫用。如果該用戶協議中有關條款存在免除己方責任，加重對方責任、排除對方主要權利的，則該格式條款無效。
其二，“ZAO”存在數據洩露的風險也是受到用戶詬病的原因。有用戶擔心，一旦臉部生物識別特徵信息被洩露，會被不法分子濫用。
一位研究人工智能領域的高校學者告訴南都記者，AI換臉實際上是一種基於人工智能深度學習的人體圖像合成技術，在安全支付領域，各類換臉軟件的技術水平尚無法構成威脅。但他表示，AI換臉技術具有“矛和盾”的問題，總有不法分子針對漏洞進行破解，對個人安全來說是存在一定的風險的。
國內較早使用深度學習技術提供服務的廣州圖普科技網絡公司向南都記者介紹，相對於“換臉”技術本身，安全風險更集中於人臉信息的收集、加工、存儲和傳輸等環節。由於人臉識別具有高度的直接識別性和唯一性，因此在對人臉信息處理的過程中，存在更高的數據洩露、非法濫用、盜用等隱患。一旦APP被黑客攻破，相關的用戶信息就有可能流入黑產的地下數據庫，被不法分子拿來獲取利益。
其三，“ZAO”還被質疑涉嫌使用未經授權的影視劇，可能面臨侵犯著作權的風險。
ZAO的版權聲明表示：“ZAO產品上存在的短視頻和表情等素材，除了特別聲明是ZAO跟合作方進行版權合作的之外，均來源於ZAO用戶自發的上傳，ZAO不享有素材的商業版權。”
不過，目前“ZAO”用戶上傳素材需要通過權限認證，但申請權限認證的通道還沒有開放成功。這意味著，“ZAO”的視頻素材裡仍沒有屬於用戶上傳的內容。
黃浩律師向南都記者表示，如果企業上傳未經授權的影視劇資料，而且屬於商業目的，那就是侵犯原作者的著作權行為。王華鋒律師也認為，“ZAO”的行為涉嫌侵犯著作權中的複製權、修改權、改編權、保護作品完整權、信息網絡傳播權、署名權等，此外還會涉及肖像權。
"上線短短6天，AI換臉軟件“ZAO_逢臉造戲”就體驗了從爆紅到被要求整改的巨大落差感。
8月30日，“ZAO”上線後迅速火爆，登上各大應用商店下載榜首位。在爆紅的同時，“ZAO”也持續被質疑存在用戶隱私協議不規範、數據洩露風險等網絡數據安全問題。有律師向南都記者表示，其用戶協議屬於“霸王條款”，應屬無效的格式條款。9月3日，工信部約談“ZAO”的孵化團隊——北京陌陌科技有限公司被，要求其組織開展自查整改。
南都記者從一家專注於AI業務的企業瞭解到，相對於“換臉”技術本身，安全風險更集中於人臉信息的收集、加工、存儲和傳輸等環節。企業應設計特別的授權同意流程，並在確定收集利用前在內部進行嚴格的安全評估和制定應急預案，在數據的處理與使用過程中，也需建立嚴格的管控機制。
、
“ZAO” 經歷了什麼？
8月30日，“僅需一張照片，出演天下好戲”的AI換臉軟件“ZAO”陸續在各大應用商店上線，該軟件主打AI視頻換臉，用戶只需上傳人臉信息，即可將自己換成影視劇的主角。由於換臉效果真實，上線當晚便刷屏朋友圈，以至於“ZAO”發博表示，“這個月花700萬租的服務器，今晚已經消耗1/3了”。
8月31日13時，“ZAO”已經排蘋果商店娛樂類免費榜首位，免費應用榜第二。
與此同時，不斷有用戶質疑“ZAO”的用戶隱私協議不規範，存在數據洩露風險等網絡數據安全問題。部分用戶不滿“ZAO”的沉默，前往應用商店給軟件打低分。截至8月31日23時，在“ZAO”最先登陸的蘋果商店上，“ZAO”的軟件評分為2.2。
8月31日，南都記者實測發現，“ZAO”存在註銷賬戶困難的問題。用戶在註銷過程中，會出現提示“手機驗證碼錯誤或過期”而無法註銷的情況。
9月1日，“ZAO”官博發聲，表示“理解大家對於隱私問題的擔憂。考慮不周的地方我們會去改，需要一點時間”。同時，“ZAO”刪除了早前含有爭議的“用戶須授予ZAO完全免費、不可撤銷、永久、可轉授權和可再許可的權利”的內容。
但仍有“您同意或者確保實際權利人已經同意授予‘ZAO’及‘ZAO’用戶全球範圍內免費的、可以對用戶內容進行部分的修改或編輯以及對修改或編輯前後的用戶內容進行信息網絡傳播的權利”等內容。
9月2日，“ZAO”的微信分享鏈接顯示已停止訪問，頁面顯示“網頁存在安全風險，被多人投訴，為維護綠色上網環境，已停止訪問”。同時，賬戶註銷困難問題被解決，但用戶註銷成功後，頁面會提示“你已被踢出”，引發不滿。“ZAO”迴應稱，“是一個BUG，測試不充分，下一個版本會修復” 。
9月3日，“ZAO”官博再度發聲明，迴應了臉部信息採集與儲存、支付風險、註銷及刪除等問題，表示不會存儲用戶上傳的面部生物特徵信息，且強調“換臉”不可能威脅支付安全。南都記者留意到，“ZAO”再次修改用戶協議，新增“特別提示”，修改後的用戶協議會在新用戶註冊時彈出，新用戶需“已閱讀並同意用戶協議”才可註冊。
9月4日，據工業和信息化部官博消息，9月3日工業和信息化部網絡安全管理局對北京陌陌科技有限公司相關負責人進行了問詢約談。工信部要求“ZAO”嚴格按照國家法律法規以及相關主管部門要求，組織開展自查整改，依法依規收集使用用戶個人信息，規範協議條款，強化網絡數據和用戶個人信息安全保護。同時，要進一步加強新技術新業務安全評估，切實採取有效措施，積極防範自有業務平臺被利用實施電信網絡詐騙等風險隱患。
“ZAO”做錯了什麼？
首先，用戶協議涉嫌過度收集用戶隱私是“ZAO”引起用戶不滿的重要原因。
“ZAO”的用戶協議被質疑過度攫取用戶的個人信息，且有“霸王條款”之嫌。“ZAO”第一版用戶協議第6條第2款中，有要求“用戶須授予ZAO完全免費、不可撤銷、永久、可轉授權和可再許可的權利，包括但不限於：人臉照片、圖片、視頻資料等肖像資料中所含的您或肖像權利人的肖像權，以及利用技術對您或肖像權利人的肖像進行形式改動”的內容。
廣東深宏盾律師事務所黃浩律師向南都記者表示，“消費者沒有任何權利去對這個條款提出質疑或者修改，只能同意才能用軟件，這屬於霸王條款”。
廣東合拓律師事務所王華鋒律師告訴南都記者，雖然簽署了用戶協議，但並不意味著就可以對用戶的肖像進行無限制、無約束地使用，甚至濫用。如果該用戶協議中有關條款存在免除己方責任，加重對方責任、排除對方主要權利的，則該格式條款無效。
其二，“ZAO”存在數據洩露的風險也是受到用戶詬病的原因。有用戶擔心，一旦臉部生物識別特徵信息被洩露，會被不法分子濫用。
一位研究人工智能領域的高校學者告訴南都記者，AI換臉實際上是一種基於人工智能深度學習的人體圖像合成技術，在安全支付領域，各類換臉軟件的技術水平尚無法構成威脅。但他表示，AI換臉技術具有“矛和盾”的問題，總有不法分子針對漏洞進行破解，對個人安全來說是存在一定的風險的。
國內較早使用深度學習技術提供服務的廣州圖普科技網絡公司向南都記者介紹，相對於“換臉”技術本身，安全風險更集中於人臉信息的收集、加工、存儲和傳輸等環節。由於人臉識別具有高度的直接識別性和唯一性，因此在對人臉信息處理的過程中，存在更高的數據洩露、非法濫用、盜用等隱患。一旦APP被黑客攻破，相關的用戶信息就有可能流入黑產的地下數據庫，被不法分子拿來獲取利益。
其三，“ZAO”還被質疑涉嫌使用未經授權的影視劇，可能面臨侵犯著作權的風險。
ZAO的版權聲明表示：“ZAO產品上存在的短視頻和表情等素材，除了特別聲明是ZAO跟合作方進行版權合作的之外，均來源於ZAO用戶自發的上傳，ZAO不享有素材的商業版權。”
不過，目前“ZAO”用戶上傳素材需要通過權限認證，但申請權限認證的通道還沒有開放成功。這意味著，“ZAO”的視頻素材裡仍沒有屬於用戶上傳的內容。
黃浩律師向南都記者表示，如果企業上傳未經授權的影視劇資料，而且屬於商業目的，那就是侵犯原作者的著作權行為。王華鋒律師也認為，“ZAO”的行為涉嫌侵犯著作權中的複製權、修改權、改編權、保護作品完整權、信息網絡傳播權、署名權等，此外還會涉及肖像權。
此外，王華鋒律師向南都記者表示，對於用戶上傳的視頻素材，“ZAO”也應該起到審核管理義務。如果用戶上傳的素材體量太大，在平臺沒有足夠的能力去一一審核的情況下，則應該承擔通知刪除的義務。
企業該怎麼保護隱私數據？
目前“ZAO”正被工信部要求開展自查整改。截至發稿前，“ZAO”及其孵化團隊陌陌科技公司仍未就南都記者詢問的“自查整改如何進行”等問題做出回覆。
“用戶有權知道哪些信息將被收集以及選擇是否讓渡。此外，所有信息應歸屬於用戶本人，即便獲得授權，信息收集方也不得濫用用戶賦予的數據。”廣州圖普科技網絡公司的產品運營總監姜澤榮向南都記者表示，人臉信息作為生物識別特徵是一種高價值數據，且隨著其應用不斷擴大，被非法利用的風險也不斷上升。
"上線短短6天，AI換臉軟件“ZAO_逢臉造戲”就體驗了從爆紅到被要求整改的巨大落差感。
8月30日，“ZAO”上線後迅速火爆，登上各大應用商店下載榜首位。在爆紅的同時，“ZAO”也持續被質疑存在用戶隱私協議不規範、數據洩露風險等網絡數據安全問題。有律師向南都記者表示，其用戶協議屬於“霸王條款”，應屬無效的格式條款。9月3日，工信部約談“ZAO”的孵化團隊——北京陌陌科技有限公司被，要求其組織開展自查整改。
南都記者從一家專注於AI業務的企業瞭解到，相對於“換臉”技術本身，安全風險更集中於人臉信息的收集、加工、存儲和傳輸等環節。企業應設計特別的授權同意流程，並在確定收集利用前在內部進行嚴格的安全評估和制定應急預案，在數據的處理與使用過程中，也需建立嚴格的管控機制。
、
“ZAO” 經歷了什麼？
8月30日，“僅需一張照片，出演天下好戲”的AI換臉軟件“ZAO”陸續在各大應用商店上線，該軟件主打AI視頻換臉，用戶只需上傳人臉信息，即可將自己換成影視劇的主角。由於換臉效果真實，上線當晚便刷屏朋友圈，以至於“ZAO”發博表示，“這個月花700萬租的服務器，今晚已經消耗1/3了”。
8月31日13時，“ZAO”已經排蘋果商店娛樂類免費榜首位，免費應用榜第二。
與此同時，不斷有用戶質疑“ZAO”的用戶隱私協議不規範，存在數據洩露風險等網絡數據安全問題。部分用戶不滿“ZAO”的沉默，前往應用商店給軟件打低分。截至8月31日23時，在“ZAO”最先登陸的蘋果商店上，“ZAO”的軟件評分為2.2。
8月31日，南都記者實測發現，“ZAO”存在註銷賬戶困難的問題。用戶在註銷過程中，會出現提示“手機驗證碼錯誤或過期”而無法註銷的情況。
9月1日，“ZAO”官博發聲，表示“理解大家對於隱私問題的擔憂。考慮不周的地方我們會去改，需要一點時間”。同時，“ZAO”刪除了早前含有爭議的“用戶須授予ZAO完全免費、不可撤銷、永久、可轉授權和可再許可的權利”的內容。
但仍有“您同意或者確保實際權利人已經同意授予‘ZAO’及‘ZAO’用戶全球範圍內免費的、可以對用戶內容進行部分的修改或編輯以及對修改或編輯前後的用戶內容進行信息網絡傳播的權利”等內容。
9月2日，“ZAO”的微信分享鏈接顯示已停止訪問，頁面顯示“網頁存在安全風險，被多人投訴，為維護綠色上網環境，已停止訪問”。同時，賬戶註銷困難問題被解決，但用戶註銷成功後，頁面會提示“你已被踢出”，引發不滿。“ZAO”迴應稱，“是一個BUG，測試不充分，下一個版本會修復” 。
9月3日，“ZAO”官博再度發聲明，迴應了臉部信息採集與儲存、支付風險、註銷及刪除等問題，表示不會存儲用戶上傳的面部生物特徵信息，且強調“換臉”不可能威脅支付安全。南都記者留意到，“ZAO”再次修改用戶協議，新增“特別提示”，修改後的用戶協議會在新用戶註冊時彈出，新用戶需“已閱讀並同意用戶協議”才可註冊。
9月4日，據工業和信息化部官博消息，9月3日工業和信息化部網絡安全管理局對北京陌陌科技有限公司相關負責人進行了問詢約談。工信部要求“ZAO”嚴格按照國家法律法規以及相關主管部門要求，組織開展自查整改，依法依規收集使用用戶個人信息，規範協議條款，強化網絡數據和用戶個人信息安全保護。同時，要進一步加強新技術新業務安全評估，切實採取有效措施，積極防範自有業務平臺被利用實施電信網絡詐騙等風險隱患。
“ZAO”做錯了什麼？
首先，用戶協議涉嫌過度收集用戶隱私是“ZAO”引起用戶不滿的重要原因。
“ZAO”的用戶協議被質疑過度攫取用戶的個人信息，且有“霸王條款”之嫌。“ZAO”第一版用戶協議第6條第2款中，有要求“用戶須授予ZAO完全免費、不可撤銷、永久、可轉授權和可再許可的權利，包括但不限於：人臉照片、圖片、視頻資料等肖像資料中所含的您或肖像權利人的肖像權，以及利用技術對您或肖像權利人的肖像進行形式改動”的內容。
廣東深宏盾律師事務所黃浩律師向南都記者表示，“消費者沒有任何權利去對這個條款提出質疑或者修改，只能同意才能用軟件，這屬於霸王條款”。
廣東合拓律師事務所王華鋒律師告訴南都記者，雖然簽署了用戶協議，但並不意味著就可以對用戶的肖像進行無限制、無約束地使用，甚至濫用。如果該用戶協議中有關條款存在免除己方責任，加重對方責任、排除對方主要權利的，則該格式條款無效。
其二，“ZAO”存在數據洩露的風險也是受到用戶詬病的原因。有用戶擔心，一旦臉部生物識別特徵信息被洩露，會被不法分子濫用。
一位研究人工智能領域的高校學者告訴南都記者，AI換臉實際上是一種基於人工智能深度學習的人體圖像合成技術，在安全支付領域，各類換臉軟件的技術水平尚無法構成威脅。但他表示，AI換臉技術具有“矛和盾”的問題，總有不法分子針對漏洞進行破解，對個人安全來說是存在一定的風險的。
國內較早使用深度學習技術提供服務的廣州圖普科技網絡公司向南都記者介紹，相對於“換臉”技術本身，安全風險更集中於人臉信息的收集、加工、存儲和傳輸等環節。由於人臉識別具有高度的直接識別性和唯一性，因此在對人臉信息處理的過程中，存在更高的數據洩露、非法濫用、盜用等隱患。一旦APP被黑客攻破，相關的用戶信息就有可能流入黑產的地下數據庫，被不法分子拿來獲取利益。
其三，“ZAO”還被質疑涉嫌使用未經授權的影視劇，可能面臨侵犯著作權的風險。
ZAO的版權聲明表示：“ZAO產品上存在的短視頻和表情等素材，除了特別聲明是ZAO跟合作方進行版權合作的之外，均來源於ZAO用戶自發的上傳，ZAO不享有素材的商業版權。”
不過，目前“ZAO”用戶上傳素材需要通過權限認證，但申請權限認證的通道還沒有開放成功。這意味著，“ZAO”的視頻素材裡仍沒有屬於用戶上傳的內容。
黃浩律師向南都記者表示，如果企業上傳未經授權的影視劇資料，而且屬於商業目的，那就是侵犯原作者的著作權行為。王華鋒律師也認為，“ZAO”的行為涉嫌侵犯著作權中的複製權、修改權、改編權、保護作品完整權、信息網絡傳播權、署名權等，此外還會涉及肖像權。
此外，王華鋒律師向南都記者表示，對於用戶上傳的視頻素材，“ZAO”也應該起到審核管理義務。如果用戶上傳的素材體量太大，在平臺沒有足夠的能力去一一審核的情況下，則應該承擔通知刪除的義務。
企業該怎麼保護隱私數據？
目前“ZAO”正被工信部要求開展自查整改。截至發稿前，“ZAO”及其孵化團隊陌陌科技公司仍未就南都記者詢問的“自查整改如何進行”等問題做出回覆。
“用戶有權知道哪些信息將被收集以及選擇是否讓渡。此外，所有信息應歸屬於用戶本人，即便獲得授權，信息收集方也不得濫用用戶賦予的數據。”廣州圖普科技網絡公司的產品運營總監姜澤榮向南都記者表示，人臉信息作為生物識別特徵是一種高價值數據，且隨著其應用不斷擴大，被非法利用的風險也不斷上升。
對此，姜澤榮表示，對於此類敏感數據的收集、處理和利用，收集的企業首先應設計特別的授權同意流程，並在確定收集利用前在內部進行嚴格的安全評估和制定應急預案。在數據的處理與使用過程中，需要建立嚴格的管控機制，例如保護數據安全的加密管理，防止數據流轉應用的終端管理，防病毒攻擊，還有數據庫數據保護，准入控制以及系統管理等等。
在2018年5月實施的《信息安全技術個人信息安全規範》條例中，也明確規定了企業在採集用戶個人信息時，需要堅持“收集要授權、使用有界限、存儲應保護”三條基本原則。
不過姜澤榮表示，人們無需對人工智能技術因噎廢食。人工智能技術也能很好地應用於隱私安全保護，比如，基於行為分析，人工智能可以快速檢測出惡意軟件，通過機器學習還能及時檢測異常網絡流量行為，預警黑客入侵，從而提升網絡安全防禦水平。
採寫：南都見習記者 封聰穎
"