又一個現象級的互聯網產品誕生了——8月30日晚間開始，一個名為“ZAO”的AI換臉APP忽然爆火，在朋友圈裡刷屏!
用戶只需要在APP中上傳一張自己的照片，就能將自己的臉替換到周潤發、白展堂、瑪麗蓮夢露、紫薇等明星的頭上，而且臉融合效果非常棒，幾乎可以以假亂真，你可以和小李子一樣叱吒銀幕，出現在經典鏡頭裡，也可以和心中的“男神”“女神”同框飆戲……
"又一個現象級的互聯網產品誕生了——8月30日晚間開始，一個名為“ZAO”的AI換臉APP忽然爆火，在朋友圈裡刷屏!
用戶只需要在APP中上傳一張自己的照片，就能將自己的臉替換到周潤發、白展堂、瑪麗蓮夢露、紫薇等明星的頭上，而且臉融合效果非常棒，幾乎可以以假亂真，你可以和小李子一樣叱吒銀幕，出現在經典鏡頭裡，也可以和心中的“男神”“女神”同框飆戲……
在興奮了一陣之後，不少人覺得哪裡不對勁兒了：這麼強大的“換臉術”會不會被濫用?比如，自己的臉被換到色情視頻的主角頭上，那真是跳到黃河裡都洗不清了。或者，有犯罪分子利用“換臉”技術在視頻裡，向家屬實施詐騙、敲詐……如此完美的換臉技術，簡直成了敲詐勒索、毀人清白的利器。
應該看到，這款APP也採取了措施防止換臉被濫用，對用戶運用了一般只有金融支付APP才有的“實臉認證”，用戶在鏡頭前要按要求眨眼、扭頭，在系統判斷你上傳的這張照片就是你本人之後，才能進行下一步操作，確保你沒有拿別人來換臉。
但是，這種換臉APP搞的“實臉認證”，形成了一個悖論：為了防止頭像被濫用，我們在使用這款APP之前要交出自己更多的信息，特別是臉部信息。擔心隱私被濫用的我們，被迫將更多的隱私交給了APP……誰來監管APP本身?
APP已經給自己準備好了“甩鍋條款”，有心的網友發現“ZAO”的用戶協議當中，有“您同意或確保肖像權利人同意授予‘ZAO’及其關聯公司全球範圍內完全免費、不可撤銷、永久、可轉授權和可再許可的權利”之類霸王條款味道十足的條款。
這等於用戶在愉快玩耍這款軟件之前，默認自己的換臉視頻要被APP“完全免費、不可撤銷”地“玩耍”。從法律層面上說，“ZAO”已經打定主意充分利用“避風港條款”，一旦有法律糾紛，將會將責任推給用戶上傳。
我們還沒有習慣“刷臉”時代，更顛覆性的“換臉時代”就來了。事實上，很多新技術、新經營模式產生之後，最先嗅到商機的往往是一些灰色產業，這次AI換臉術也可能難逃此劫了。
怎麼保證“ZAO”能保護好這些直接包含用戶手機和麵部生物信息的核心信息?怎麼保證這些“臉”不被不正當“開發”?怎麼保證我們的“臉”不被賣掉?
AI換臉術的最早應用就是情色視頻。2017年12月，國外某ID名為“deepfakes”的Reddit論壇用戶首次將自己製作的AI換臉視頻發佈在了網絡上，並把情色電影裡的女主角換成了蓋爾•加朵等好萊塢明星。後來在一片聲討聲中，“deepfakes”將這一技術作為開源代碼放到了網上，只要是懂一些相關技術的，都可以得到這些開源程序，並且稍加改造就可以使用。
所以，當下，輿論的炮火也不必全面指向“ZAO”本身，“ZAO”不是什麼高科技，而是基於開源程序的“低科技”商業應用。但更大的問題在於，這麼肉眼難辨、足以亂真的換臉技術居然可能是唾手可得的，甚至可能輕意落到詐騙、色情產業的違法分子手裡，這就不禁讓人倒吸一口冷氣。
人類幾十萬年來，一直把臉作為最重要的生物識別指標，通過“看臉”來區別你、我、他，然而這個最明確的邊界卻模糊了。法律有沒有做好準備?行政管理有沒有做好準備?人心有沒有做好準備?
“黑鏡社會”正在降臨，相關法律和倫理規範、技術規範必須同步出臺，這不是杞人憂天。
"