上線短短6天，AI換臉軟件“ZAO_逢臉造戲”就體驗了從爆紅到被要求整改的巨大落差感。
8月30日，“ZAO”上線後迅速火爆，登上各大應用商店下載榜首位。在爆紅的同時，“ZAO”也持續被質疑存在用戶隱私協議不規範、數據洩露風險等網絡數據安全問題。有律師向南都記者表示，其用戶協議屬於“霸王條款”，應屬無效的格式條款。9月3日，工信部約談“ZAO”的孵化團隊——北京陌陌科技有限公司被要求其組織開展自查整改。
“ZAO” 經歷了什麼？
8月30日，“僅需一張照片，出演天下好戲”的AI換臉軟件“ZAO”陸續在各大應用商店上線，該軟件主打AI視頻換臉，用戶只需上傳人臉信息，即可將自己換成影視劇的主角。由於換臉效果真實，上線當晚便刷屏朋友圈。
與此同時，不斷有用戶質疑“ZAO”的用戶隱私協議不規範，存在數據洩露風險等網絡數據安全問題。8月31日，南都記者實測發現，“ZAO”存在註銷賬戶困難的問題，註銷過程中會出現提示“手機驗證碼錯誤或過期”。
9月1日，“ZAO”官博發聲，表示“考慮不周的地方我們會去改，需要一點時間”。同時，“ZAO”刪除了早前含有爭議的“用戶須授予ZAO完全免費、不可撤銷、永久、可轉授權和可再許可的權利”的內容。但仍有“您同意或者確保實際權利人已經同意授予‘ZAO’及‘ZAO’用戶全球範圍內免費的、可以對用戶內容進行部分的修改或編輯以及對修改或編輯前後的用戶內容進行信息網絡傳播的權利”等內容。
9月2日，“ZAO”的微信分享鏈接顯示已停止訪問。同時，賬戶註銷困難問題被解決，但用戶註銷成功後，頁面會提示“你已被踢出”，引發不滿。
9月3日，“ZAO”官博再度發聲明，迴應了臉部信息採集與儲存、支付風險、註銷及刪除等問題，表示不會存儲用戶上傳的面部生物特徵信息，且強調“換臉”不可能威脅支付安全。南都記者留意到，“ZAO”再次修改用戶協議，新增“特別提示”，修改後的用戶協議會在新用戶註冊時彈出，新用戶需“已閱讀並同意用戶協議”才可註冊。
9月4日，據工業和信息化部官博消息，9月3日工業和信息化部網絡安全管理局對北京陌陌科技有限公司相關負責人進行了問詢約談。工信部要求“ZAO”嚴格按照國家法律法規以及相關主管部門要求，組織開展自查整改。
“ZAO”做錯了什麼？
首先，用戶協議涉嫌過度收集用戶隱私是“ZAO”引起用戶不滿的重要原因。
“ZAO”的用戶協議被質疑過度攫取用戶的個人信息，且有“霸王條款”之嫌。“ZAO”第一版用戶協議第6條第2款中，有要求“用戶須授予ZAO完全免費、不可撤銷、永久、可轉授權和可再許可的權利，包括但不限於：人臉照片、圖片、視頻資料等肖像資料中所含的您或肖像權利人的肖像權，以及利用技術對您或肖像權利人的肖像進行形式改動”的內容。
廣東合拓律師事務所王華鋒律師告訴南都記者，雖然簽署了用戶協議，但並不意味著就可以對用戶的肖像進行無限制、無約束地使用，甚至濫用。如果該用戶協議中有關條款存在免除己方責任，加重對方責任、排除對方主要權利的，則該格式條款無效。
其二，“ZAO”存在數據洩露的風險也是受到用戶詬病的原因。有用戶擔心，一旦臉部生物識別特徵信息被洩露，會被不法分子濫用。
一位研究人工智能領域的高校學者告訴南都記者，AI換臉實際上是一種基於人工智能深度學習的人體圖像合成技術，在安全支付領域，各類換臉軟件的技術水平尚無法構成威脅。但他表示，AI換臉技術具有“矛和盾”的問題，總有不法分子針對漏洞進行破解，對個人安全來說是存在一定的風險的。
國內較早使用深度學習技術提供服務的廣州圖普科技網絡公司向南都記者介紹，相對於“換臉”技術本身，安全風險更集中於人臉信息的收集、加工、存儲和傳輸等環節。由於人臉識別具有高度的直接識別性和唯一性，因此在對人臉信息處理的過程中，存在更高的數據洩露、非法濫用、盜用等隱患。一旦APP被黑客攻破，相關的用戶信息就有可能流入黑產的地下數據庫，被不法分子拿來獲取利益。
其三，“ZAO”還被質疑涉嫌使用未經授權的影視劇，可能面臨侵犯著作權的風險。
ZAO的版權聲明表示：“ZAO產品上存在的短視頻和表情等素材，除了特別聲明是ZAO跟合作方進行版權合作的之外，均來源於ZAO用戶自發的上傳，ZAO不享有素材的商業版權。”
不過，目前“ZAO”用戶上傳素材需要通過權限認證，但申請權限認證的通道還沒有開放成功。這意味著，“ZAO”的視頻素材裡仍沒有屬於用戶上傳的內容。
黃浩律師向南都記者表示，如果企業上傳未經授權的影視劇資料，而且屬於商業目的，那就是侵犯原作者的著作權行為。王華鋒律師也認為，“ZAO”的行為涉嫌侵犯著作權中的複製權、修改權、改編權、保護作品完整權、信息網絡傳播權、署名權等，此外還會涉及肖像權。
採寫：南都見習記者 封聰穎
"