'“ZAO”火了人臉識別,技術遇到了社會瓶頸'

"

人臉識別技術本來是被看作高於指紋識別的又一安全密鑰,現在也逐漸的進入到了商用階段。本來它只是技術性名詞,並不會受到太多人的關注。但ZAO這次的爆紅到輿論的譴責,讓人臉識別的技術討論超出了技術的範疇。

短短不到一個禮拜時間,一款名為ZAO的AI娛樂軟件火速從0到蘋果應用商店的娛樂軟件排行幫榜首,正如ZAO“僅需一張照片,出演天下好戲”的宣傳口號一樣,緊接著ZAO就被以存在的數據洩露風險等網絡數據安全問題而約談。監管部門這樣的約談整改在互聯網行業並不少見。工信部的這個原因也就是我們經常熟知的過度搜集用戶信息。

為何本來平常的一次約談整改,讓人臉識別的技術走上了風口浪尖。

ZAO算是這次輿論的導火線,因為ZAO 的切入點是採集用戶的照片,然後實時切換到用戶喜歡的影視劇場景中。其中最關鍵的兩個環節是採集照片和實時切換,這兩個動作與人臉識別技術中採集照片和照片比對是基本一樣的。因此輿論對ZAO的壓力的導向主要在於它所蒐集的照片和採用的照片識別技術讓自己身處高風險的市場交易環境中。

以金融場景為例,目前在一些銀行的APP交易中,或者以支付寶為代表的第三方支付的線下交易中,用戶無需刷手機,可以直接通過刷臉支付。如果用戶的照片被動態化的留存下來,那自己的賬戶是不是有被盜刷的風險了。除此之外,還有可能用戶的肖像被濫用到各種不同的場景中等對用戶安全造成威脅。

如果我們將人臉識別看成是指紋識別高級版的話,我們會發現,這些所謂的人臉識別技術擔心在指紋時代依然是存在的,現在為何又要大驚小怪了。技術迭代的過程中不久自然解決了嗎?

人臉的社會意義遠高於技術意義。

在ZAO 的風波還未結束的時候,視覺人工智能獨角獸企業也撞在了輿論的浪花上,網絡上流傳的一張學生課堂監視照片顯示,兩名學生的視頻畫面上顯示著趴桌子、玩手機、聽講、閱讀、舉手等不同分類的標籤和次數。以此監視學生的學習效果,網友斥責這是在侵犯人權和隱私。雖然曠世後來通過公關回應稱這只是場景技術化演示,並沒有實際應運,但眾多的網友對這樣的解釋並不買賬。

人臉是人社會意義最主要的部分。雖然我們推崇技術優先的態度,但如果技術超出了我們可控的範圍之後,我們是不是應該去思考它在應運層面的具體場景是不是可控呢。如果技術意義完全凌駕於社會意義之上,或許就不再是我們的數據不安全的問題了,而是技術到底對不對的問題了。技術中立和社會價值之間總要找到一個平衡點。

“ZAO”熱背後的思考

ZAO的大火說明了市場對AI換臉有著極大的需求。如何在滿足市場需求的同時還能確保信息安全可控,不僅僅是監管層應該思考的問題,更是企業要考慮的方向。ZAO確實滿足了市場的一個空缺,但它並沒有建立在用戶價值層面,而是將用戶當成了利益的工具。所有可能存在的風險都將將有使用者來承擔,這樣的產品也不會長久的火熱,曇花一現是正常現象。基於人臉識別技術每年已經有幾百億規模的市場規模。ZAO和曠世這樣的技術與輿論的衝突還只是一個開頭,在技術有了更進一步的發展之後,討論或許會更多。

Facebook、Google這樣國際的巨頭企業這幾年深陷於洩露用戶隱私和數據的煎熬中就更加說明,人臉這一更珍貴的數據需要更強的監管或許才能更好的商用和消費。

特別聲明:本文為DoNews簽約作者原創,文章版權歸原作者及原出處所有。轉載請聯繫DoNews專欄獲取授權。(有任何疑問都請聯繫[email protected])

"

相關推薦

推薦中...