'AI“換臉”APP一夜爆紅！用戶隱私和安全或遭遇重大威脅'
近日，一款名為“ZAO”的換臉APP在社交網絡走紅，不少網友的朋友圈紛紛被這款能夠利用AI技術“無縫換臉”的APP給刷屏。但是在走紅也同時，關於這款APP的應用也引發了不小的爭議。
記者下載ZAO後發現，ZAO的口號為“僅需一張照片，出演天下好戲”。根據官方的介紹，利用AI技術，用戶可以在ZAO軟件上使用自己的照片替換影視劇或者小視頻中的人物，從而生成以自己為主角的視頻，完成一鍵換臉。
不過，需要注意的是，對於公眾人物，需要確認肖像權有效後才可以正常使用。根據ZAO官方介紹，ZAO的精髓在於加好友玩，由此可見社交才是其產品定位，換臉只是為了吸引用戶和互動的方式。
根據公開信息顯示，ZAO在三個月前就已經發布，8月30日上線了正式版本，在引發了眾多用戶甚至明星的關注後，也吸引了眾多用戶的嚐鮮。
一夜之間走紅也讓ZAO的服務器受到了考驗。ZAO官方助手在30日夜間發佈微博稱“這個月花700萬租的服務器，今晚已經消耗1/3了。明天如果繼續火爆，我們只能做嚴格一些的限制。而在今天凌晨，ZAO又發佈微博稱，服務器現在還是滿負荷。”
據記者從天眼查的公開信息瞭解到，ZAO所屬公司由海南貓咖網絡科技有限公司100%控股，法定代表人為陌陌聯合創始人雷小亮。其中，海南貓咖網絡科技有限公司則由雷小亮和陌陌COO王力各持股50%。
據記者瞭解，在AI技術快速發展的今天，AI換臉視頻並不是新鮮事。
資料顯示，早在2017年，國外就首次出現用戶將製作的AI換臉視頻發佈在網絡上，但是由於該技術的特性，後期被大量應用於明星和色情行業，也備受外界爭議。
而在國內，讓公眾對於AI換臉技術有所認知的，則是今年B站UP主"換臉哥"發佈的一段94版射鵰英雄傳視頻。在這段流傳廣泛的視頻中，原本飾演黃蓉的演員朱茵的臉被替換成了楊冪的臉，從這段視頻可見，利用AI實現的換臉效果已經幾乎以假亂真。
對於AI換臉技術的逐漸受到大眾應用，業內人士也普遍表達了擔憂：當任何人都能輕易使用這項技術並生成視頻進行傳播的話，對於版權和隱私將會造成極大的威脅。
據記者在ZAO的軟件的版權聲明中看到，"ZAO產品上存在的短視頻和表情等素材，除了特別聲明是ZAO跟合作方進行版權合作的之外，均來源於ZAO用戶自發的上傳，ZAO不享有素材的商業版權。"由此可見ZAO已經將版權問題歸納為用戶行為，與平臺無關。
此外在隱私保護方面，ZAO在用戶使用前需要用戶進行活體驗證，且軟件也向用戶聲明瞭詳細的隱私保護協議，並對可能造成的隱私風險進行了說明，但從目前用戶發佈的“作品”看來，似乎也並不能阻止用戶盜用他人照片進行視頻的製作。
不僅如此，在ZAO的版權聲明中“如果您把用戶內容中的人臉換成您或其他人的臉，您同意或確保肖像權利人同意授予“ZAO”及其關聯公司全球範圍內完全免費、不可撤銷、永久、可轉授權和可再許可的權利”的條款也惹來了眾多用戶吐槽。不少網友表示，該條款“不僅離譜”，而且會為用戶的信息安全帶來重大風險，“如果被犯罪分子的利用怎麼辦？”
這種擔憂並非空穴來風？騰訊研究院高級研究員曹建峰此前在接受記者採訪時就曾表示，AI換臉會帶來所謂的深度造假（deepfake），結合語音合成等技術，可以生成虛假的視頻（如之前奧巴馬的虛假視頻）對政治、輿論等造成影響，使假新聞更難識別。
此外，就AI換臉技術自身而言，可能給個人的隱私、名譽、私生活安寧造成損害，因為惡意使用者可能用這項技術來誹謗、攻擊他人。甚至用於從事詐騙。當然，也有可能觸犯刑法，即如果用換臉技術來製作、傳播淫穢色情。他建議，為AI技術制定倫理底線，鼓勵正向利用，避免惡意濫用。
“AI技術也能達到武俠小說中的‘易容術’，那麼，這將是人類有史以來最大規模的針對人的身份的欺詐行為。”中國社科院哲學研究所研究員段偉文告訴記者，這項技術如何應用，應該分清楚真實和虛擬的界限，例如在影視、遊戲等領域可能會得到應用，而其它領域則應該被限制使用。利用AI技術對身份造假，越發表明隱私和數據的重要性，例如臉部信息、講話、錄像等信息，應禁止一般企業將其拿來造假。
除了引發的道德和倫理問題，一些“黑灰產”盯上了“AI換臉”技術。
早在2017年的央視3·15晚會直播的“換臉術”，主持人僅憑一張觀眾自拍照就上演了現實版“換臉術”，成功攻破人臉認證。據阿里安全圖靈實驗室高級算法專家覺奧介紹，黑灰產也在利用AI換臉，是目前常見的一種攻擊手段，“在人臉識別系統中，識別換臉的技術叫活體檢測技術，這是一個攻防對抗技術，即用AI的手段來解決AI的攻擊”。
“這幾年，由於深度學習的迅猛發展，攻、防的技術都在不斷進步，這是一個持續、動態對抗的過程。”覺奧表示。當前無人駕駛、人臉識別、智慧城市、智能家居等各類場景中都在運用AI，包括人臉識別系統，但一旦後端控制系統被攻擊，出現規模化、連鎖式的崩盤，AI失控的後果不堪設想。
據記者瞭解，此前《民法典人格權編（草案）》二審稿提交十三屆全國人大常委會第十次會議審議。其中擬規定：不得以醜化、汙損，或者利用信息技術手段偽造等方式侵害他人的肖像權。此項法律規定，無疑將對當前似乎愈演愈烈的AI換臉潮流有明確的規範作用。
【南方網全媒體記者】葉丹
從明星楊冪成功換臉《射鵰英雄傳》中的朱茵，到蔡徐坤因鬼畜視頻向嗶哩嗶哩彈幕網發去律師函，今年來，“AI換臉”多次成為網上熱詞。
在互聯網高速發展時代，“P圖”早已見怪不怪，但當發現“換臉”後的視頻也真假難辨時，不少人開始感到擔憂：換臉技術是否會被濫用？視頻證據可信度是否會打折？個人權益是否會被損害？……
4月20日，民法典人格權編草案二審稿提交審議，並對“AI換臉”等問題作出了規範，明確任何組織或者個人不得以醜化、汙損，或者利用信息技術手段偽造等方式侵害他人的肖像權。
以營利作為侵權要件具有侷限性
今年2月，一條女星換臉視頻在網上走紅，視頻中，1994版《射鵰英雄傳》電視劇裡朱茵扮演的黃蓉，被換上了楊冪的臉，但表情仍然活靈活現，幾乎找不出破綻。這條視頻讓不少人第一次認識到“AI換臉”以假亂真的程度，網上點擊量很快超過了1億。
在一些技術論壇上，這種技術被稱為“Deepfakes”，可以通過人工智能算法，對大量的照片進行模型訓練，然後將訓練運用在另一個人的視頻上，讓人工智能對視頻中的人臉進行自動匹配。
記者調查發現，這種技術門檻並不高，一些愛好者還專門在論壇上發佈了使用教程，並提供了安裝包。
結果，不少名人因此“躺槍”。除了將女主播的臉換成明星唐嫣、將電視劇《回家的誘惑》中女角色的臉換成演員凌瀟肅，一些人還對通過選秀節目C位出道的蔡徐坤進行了惡搞。
4月12日，蔡徐坤工作室公佈了針對B站（嗶哩嗶哩彈幕網）的律師函，稱B站嚴重侵犯蔡徐坤的“名譽權”“肖像權”“表演權”等多項權利。這一事件迅速引爆網絡，連日來討論不斷。
“AI換臉”是否構成侵權？廣州市律師協會副會長詹禮願告訴記者，現行法律對肖像權的規定相對寬鬆，將侵犯肖像權的行為多限制在營利範圍之內，司法實踐中常見的侵權形式，主要是未經本人同意、以營利為目的的使用行為。
立法應平衡合理監督與肖像權保護
不過，隨著民法典人格權編草案二審稿的提請審議，“AI換臉”的討論迎來新進展。草案針對肖像權的專門規定，被業界認為是一種嚴格保護。
這意味著，如果這一規定在後續立法流程中沒有更改，當《民法典》正式施行後，只要權利人沒有同意，即便不以營利為目的，對權利人的惡搞、換臉等行為也將構成侵權。
但在一些法律工作者看來，出於維護公共利益和滿足公眾興趣的需要，公眾人物的隱私權、肖像權等理應受到一定程度的限制，適當的曝光、批評與監督，恰恰是公民言論自由的重要組成部分，不應對此過於苛責。
事實上，一些坦然接受調侃或批評的公眾人物，反而收穫了更高的人氣。
在B站鬼畜（一種再創作藝術形式）視頻區，拍攝洗髮水廣告的成龍、電視劇《三國演義》中舌戰王朗的唐國強、在綜藝節目中因一句“真香”成為“梗王”的王境澤等，都是熱門的鬼畜素材。唐國強甚至還親自到B站給up主（音視頻上傳者）頒獎，這樣的心態受到了更多年輕人的喜愛。
詹禮願建議，對肖像權的規定可適當折衷，當公眾人物明確表態禁止使用其肖像時，相關網站或視頻上傳者仍不刪除，才可認定為侵權。
在華南師範大學法學院副教授陽庚德看來，“AI換臉”是新技術對老問題的一個挑戰，立法過程中應考慮到公眾合理監督與公眾人物肖像權保護的平衡，故意侵害他人權益的行為，自然要承擔侵權責任，但對過失侵權應考慮給予一定的豁免。
【南方網全媒體記者】尚黎陽
"