8月31日,一個叫ZAO的AI換臉APP一夜之間火爆全網。
代替萊昂納多給你的Rose來一句深情的“You Jump,I Jump”;一秒鐘和“現男友”李現同框,讓他給你遮太陽;變身吳彥祖……“僅需一張照片,出演天下好戲”,通過AI換臉技術,你僅需上傳一張照片,就可以成為夢寐以求的“戲中人”。由於新奇有趣,又滿足了普通用戶的小小虛榮心,一夜之間,ZAO便迅速刷屏了朋友圈。
沒想到,火得快,涼得更快。ZAO上線的第二天下午,ZAO的默認用戶協議就引起了各界對其隱私安全風險的質疑,包括對面部識別的支付安全帶來的隱患。國家工信部也表示關注並約談問詢。
由此引出的一系列熱點問題,人臉等視頻素材是否擁有合法版權?刷臉支付還安全嗎?AI騙案會不會因此猖獗……
一部手機一張自拍就能“做主角”
AI換臉並不是新鮮事。
2017年底,國外一位ID為“deepfakes”的網友,利用業餘時間創造了一個AI換臉算法,後來這個算法被廣泛稱為deepfakes。
deepfakes首先在科技社區中流行起來。一開始只是技術愛好者的隨性試玩,後來有人用它將色情作品中的主角換成明星臉,這種做法在科技社區引發大量爭議,最後被徹底關掉。但AI換臉技術,一直進化至今。今年年初,B站UP主“換臉哥”,使用這個技術將94版《射鵰》裡扮演黃蓉的朱茵換成楊冪的臉,看過的人都驚歎“神乎其神”。
ZAO這款APP之所以一夜爆紅,正是因為其將“換臉技術”的門檻降得極低。ZAO內含有大量視頻素材,用戶不必會PS,甚至連美圖秀秀級別的美顏都省略了,直接上傳頭像照片就可以將原視頻片段換臉,一鍵生成就可朋友圈。
其實,ZAO的本質還是滿足用戶的獵奇與虛榮心。對比之前靠給照片加上貼紙特效的Faceu臉萌、預覽你老後模樣的FaceApp等簡單功能就火爆一時的在線美顏、換臉變裝APP,一部手機,一張自拍,ZAO直接把你放入經典大片中做主角,怎能不火?
潛在風險大,易引發“丟錢”“丟清白”
換臉AI功能的強大帶來的潛在危險性、威脅性,立即就能被察覺到。像前面提到的“黃蓉”被換臉事件,在一眾微博大V的侵權抗議後,UP主“換臉哥”趕緊下架了相關視頻,並呼籲大家尊重版權與肖像權,專注於技術本身。
有此先例後,不少用戶在玩耍ZAO的時候,就特別關注了其用戶服務及隱私保護協議,一下子就揪出了其中的大問題。
“在您上傳及/或發佈用戶內容以前,您同意或者確保實際權利人同意授予ZAO及其關聯公司以及ZAO用戶全球範圍內完全免費、不可撤銷、永久、可轉授權和可再許可的權利,包括但不限於可以對用戶內容進行全部或部分的修改與編輯(如將短視頻中的人臉或者聲音換成另一個人的人臉或聲音等)以及對修改前後的用戶內容進行信息網絡傳播以及著作權人享有的全部著作財產權利及鄰接權利。”
該條款直指ZAO及其關聯公司將獲得用戶上傳內容的著作權利,包括其中的人臉肖像照,引爆了公眾對ZAO的廣泛質疑:“ZAO的用戶協議太離譜了”“有手機號,有面部畫像,通過技術合成,犯罪分子可以替你和你的家人通話了”……
其中的潛在風險不言而喻。首先是正方興未艾的刷臉支付,“丟臉”會不會導致“丟錢”?當前,大部分銀行等金融機構開設了人臉識別登錄APP功能,“刷臉”支付、遠程簽約等場景也越來越多見,例如今年“3·15”晚會上,就演示過用“活”照片成功突破某款手機的“刷臉”登錄系統。
此外,通過3D打印等技術,“人臉面具”可以獲得較高仿真度,此前也已有人使用3D打印面具通過某知名網絡支付平臺的面部驗證。
除此之外,目前不少網貸機構進行“活體檢測”時仍使用人工審核或技術含量偏低的機器審核(如“點點頭”“搖搖頭”“張張嘴”等),一旦公眾的面部識別信息被不法分子掌握,很可能用這些黑科技讓用戶無辜“被網貸”,背上鉅額債務。
另一大風險是“丟臉”可能導致“丟清白”。當前,換臉技術被用在一些涉嫌違法犯罪領域的情況並不少見。一些網站用“AI換臉”“換臉視頻”等方式提供用知名藝人“面孔”“嫁接”出的視頻,這些視頻往往涉嫌色情淫穢,且難辨真假,往往讓被害人有口難辯、名譽受損。
問題多多,換臉APP未來成迷
其實,ZAO最初那份用戶協議的無賴之處並不僅止於對用戶肖像權的無視、侵佔。實際上,從之後ZAO運營團隊被工信部問詢約談,到之後所做的四點說明來看,ZAO團隊以及團隊背後的陌陌公司,太急於推出這種技術來引爆市場,根本就沒有考慮過新技術可能引發的法律、倫理風險。
用戶隱私的保障——用戶通過ZAO在平臺使用並替換新頭像,其圖像信息是否留存在服務器中?如何確保這些圖像信息不被濫用、被洩露、被販賣?
北京師範大學法學院網絡與智慧社會法治研究中心主任劉德良近日表示,針對人工智能技術的前瞻性立法,未來需要跨過的一個坎是首先要轉變觀念,從關注個人信息的洩露轉到濫用的方向(現在的主流看法都在強調洩露,而不在防止濫用上),現在我們的個人信息已經存在於N個商家和機構中,防止洩露幾乎不可能,所以關鍵在於不能濫用。在觀念轉變之後,再組織專家商討、提案,系統地規範什麼叫濫用,濫用有哪些類型,如何從民法、行政法、刑法上有效防止濫用。相關法律法規的建立完善要具有可操作性,不能不利於大數據和AI產業的發展。
刷臉支付、設備解鎖的安全性——一鍵換臉技術如此成熟,我們是不是要擔心一下錢包安全和智能設備解鎖問題?
劉德良表示,從立法上要讓進行身份識別的機構或者平臺(比如銀行、支付平臺、電信公司、保險公司)去承擔責任。如果法律有這種規定,就會倒逼這些機構、平臺認真核查比對,要想方設法開發更新的技術手段,有效避免身份假冒濫用。如果不這樣立法,掌握個人信息的機構、平臺就會把風險轉嫁給被假冒者,讓個人承擔風險。
監管風險——ZAO讓用戶自行上傳照片或視頻,如果用戶上傳了不符合法律要求的照片或視頻,通過網絡傳播,而ZAO並沒有阻止,那麼它將面臨極大的監管風險。甚至,假如用戶利用該平臺進行涉嫌犯罪的行為,ZAO又該如何監管?
日前就有外媒報道,今年3月,一群竊賊使用AI語音模仿軟件,仿冒某公司高層電話該公司員工,讓其把錢打到一個異地賬戶中,電話中高度仿製了這名高層的音調、停頓甚至是德國口音,最終成功盜走了24萬美元。研究者稱,這是全球首例公開報道的AI詐騙案。有聯合國區域間犯罪與司法研究所負責人就此表示,將機器學習技術應用於欺騙性聲音使網絡犯罪變得更加容易,“想象一下,以CEO的聲音進行視頻通話,這是你熟悉的面部表情,這樣的話你根本不會有任何疑慮”。
可以說,以上這些問題,短期內都非ZAO能夠解決的,因此,就更別談什麼商業模式了。
"