還記得不久前在歐美再次走紅的AI視頻換臉嗎？一款名為Deepfake的工具，能夠利用人工智能算法，將一個人的臉合成到另一個人的視頻中，當用來訓練的數據足夠多，相關計算能力足夠強大時，人們很難直接辨別視頻的真偽。
昨天一天，朋友圈出現了大量被“換臉”的短視頻。網友們紛紛將自己的臉換到黃曉明、肖戰、沈騰等明星身上，成了《中餐廳》《陳情令》《羞羞的鐵拳》等熱門節目和影視劇裡的一員。
AI視頻換臉這股風徹底刮到了國內，也帶來了一系列關於版權、隱私權、安全等問題的拷問。此前這項技術就已經被不法分子利用，成為滋生色情黑產的溫床。
上傳照片完成臉部的“移花接木”
這些視頻是通過一款名為ZAO的軟件製作完成。用戶下載完軟件後，選擇自己心儀的視頻，找到想要替換的那個角色，按照要求上傳或自拍清晰度較高、光線較好的照片之後，再通過後臺製作，就能完成“換臉”的全過程，順利的時候只要5-10秒，十分方便。
昨天一天，我的朋友圈不斷有人上傳自己的換臉視頻。目前，ZAO上有數百個可以用來換臉的片段，涉及眾多熱門IP。如果你願意，可以把自己變成《西遊記》裡的唐僧，《長安十二時辰》裡的李必。除了造視頻外，ZAO還能夠製作表情包，帶有社交分享功能。
從合成效果看，ZAO確實比之前主打類似功能的軟件要好。特別是正臉的狀態下，一些視頻足以“以假亂真”，但在側臉以及角色遠距離識別上還有所欠缺。
另外，目前這款App不支持用明星換臉。比如，我試圖上傳好萊塢影星“小李子”的照片進行合成，系統會提醒檢測到公眾人物，除非自拍進行肖像驗證，否則不能直接合成。這一定程度上保護了明星的肖像權。
從蘋果商店的資料來看，ZAO的研發方是長沙深度融合網絡科技有限公司。天眼查資料顯示，這家公司的法定代表人是雷小亮，監事是王力。兩人的另外身份分別是陌陌公司聯合創始人兼遊戲業務部總裁，以及陌陌公司董事、總裁及COO。因此，這款軟件很有可能和社交平臺陌陌有關係。
昨天，也有媒體表示，這個項目由陌陌CEO唐巖主導，2019年春節後立項，已經推出過幾個版本，沒想到在這個時間點爆發。因為大量新用戶的擁入，從前天凌晨開始，ZAO的服務器就處於半癱瘓狀態，體驗也沒有一開始那麼順暢。
算法2017年就有 杭州也有團隊摸索了小半年
對國內網民來說，AI換臉這種形式並不新鮮。今年年初，B站UP主“換臉哥”發佈的一段94版射鵰英雄傳視頻。把原本飾演黃蓉的朱茵的臉換成了楊冪。從流出的視頻和動圖來看，雖然是用AI合成，整體效果十分逼真。
“換臉哥”用的技術就是來自於美國的Deepfake。雖然ZAO到目前為止還沒有介紹自身技術，但很大可能也和Deepfake有關。
早在2017年，一位名叫Deepfake的用戶上傳了一種新的色情視頻，將色情明星的面孔換成名人面孔，一下子引起了軒然大波。後來網友為了紀念這項技術，直接將其命名為Deepfake。2018年，Deepfake的算法在GitHub上發佈，成了完全開源的項目，任何擁有足夠專業知識和足夠配置計算機的人都可以製作類似的虛假視頻。
杭州手滑科技的技術團隊最早接觸Deepfake是在去年年底，當時內部還討論過這一技術商業化的能力。今年4月，他們正式將AI視頻換臉立項，起因是橫店影視城希望賦予傳統穿龍袍拍照的旅遊項目更多科技感。
“實際上，從去年開始國內很多團隊都在基於Deepfake做開發和商業化，只不過都沒有ZAO效果那麼好。”手滑科技的技術主管表示，現在自己產品的換臉效果也無法達到ZAO的水平，“ZAO背後的技術很有可能也和Deepfake有關，因為有大資金支持，成長非常快。”
在原理上，Deepfake使用的是最知名的深度學習算法之一GANs。GANs全稱為生成式對抗網絡，由今年34歲的Ian Goodfellow在2014年發明。今年3月份，被稱為“GANs之父”的Ian Goodfellow從谷歌跳槽到蘋果。
簡單來說，Deepfake技術依靠兩個人工智能相互“打架”完成。一個造假，一個鑑別，然後反覆在細節上“去偽存真”，直到負責鑑別的那個人工智能無法辨別造假視頻。除了視頻，GANs的算法還能用到聲音、圖像等多個領域。
AI換臉滋生黑產 美國正在加強對AI被濫用的監管
對於Deepfake，杭州某大學的一名大四男生奇哥並不陌生。去年年末，他在一個交換技能的微信群裡，就收到過群友發的AI換臉不雅視頻，一如當年Deepfake在歐美的走紅。
“發的人說裡面女主角是當紅女明星，當時特別好奇，就點進去看了。”奇哥表示，視頻時間很短，只有30秒，“內容有點露骨，但是能清晰地看到那個女明星的臉，如果不是後面知道了Deepfake，還以為是真的。”
在網上，Deepfake迅速被一些不法分子利用，形成了製作、銷售不雅視頻的產業鏈。也就是在一個月前，我曾在一個二手交易平臺發現，有人在售賣Deepfake的教程，詳細到該用什麼配置的電腦進行操作，還提供雲服務器的租賃服務，減輕電腦壓力。一位賣方告訴我：“能將你想要的臉換到你想要看的任何視頻上。沒什麼門檻，大家都可以玩。”
更有甚者，一些不法分子在私下銷售完成換臉的不雅視頻，比如花上100元就能打包200部視頻，幾乎囊括了國內一二線女明星。之後因為相關報道，一些平臺下架了教程和視頻，但在網上還是能夠找到。
昨天，我在一個電商平臺搜索AI換臉相關軟件時，就發現有商家銷售Deepfake相關教程，價格在5到10元不等，銷量最高的一家店已顯示有41人付款。在這家店的詳情頁上，商家用紅底白字寫了一個聲明：由於軟件功能強大，任何視頻都可以換臉！嚴禁用於不正當目的！
對於這項技術和不法分子的做法，好萊塢女明星斯嘉麗·約翰遜就表示：“什麼也阻止不了這些人把我的圖片複製粘貼到另一個人的身體上，並且讓它看起來逼真得可怕。”
目前，針對Deepfake帶來的負面影響，歐美等國家已經展開了行動。美國《通信規範法》第230條規定：“交互式計算機服務提供者或使用者，就非出於己的信息內容，不應被視為內容的出版人即發表人。”據國外媒體報道，這條規則可能因為Deepfake而改變。
另外，美國議員正在起草法案，涉及整個AI產業的監管，從上到下都必須參與其中。由於AI換臉已經影響到美國政壇，美國國防高級研究計劃局為此設立了“媒體鑑證”項目，以開發能識別Deepfake的工具，項目最初旨在實現現有鑑證工具的自動化，後來將終點轉向了人工智能生成的虛假視頻上。
"