1997年,吳宇森執導、尼古拉斯·凱奇主演的電影《變臉》上映。影片中,用激光切割臉皮的鏡頭,如今想來還有點瘮人,但也成為全片最大的情節亮點。
1997年,吳宇森執導、尼古拉斯·凱奇主演的電影《變臉》上映。影片中,用激光切割臉皮的鏡頭,如今想來還有點瘮人,但也成為全片最大的情節亮點。
20年後,吳宇森有兩件事情沒有想到:一是凱奇變成了“爛片之王”,二是換臉這件事,已經成為人們的娛樂。
1、ZAO臉熱
9月的第一天,一款名叫“ZAO”的換臉軟件突然在朋友圈燥了起來。
軟件只需你上傳一張面部清晰的照片,就能利用AI合成技術,將你的臉部換到明星臉上,生成電影視頻或照片,網友們玩得不亦樂乎。
1997年,吳宇森執導、尼古拉斯·凱奇主演的電影《變臉》上映。影片中,用激光切割臉皮的鏡頭,如今想來還有點瘮人,但也成為全片最大的情節亮點。
20年後,吳宇森有兩件事情沒有想到:一是凱奇變成了“爛片之王”,二是換臉這件事,已經成為人們的娛樂。
1、ZAO臉熱
9月的第一天,一款名叫“ZAO”的換臉軟件突然在朋友圈燥了起來。
軟件只需你上傳一張面部清晰的照片,就能利用AI合成技術,將你的臉部換到明星臉上,生成電影視頻或照片,網友們玩得不亦樂乎。
在這股娛樂風潮中,人們似乎還沒意識到把“臉”給丟了。
軟件莫名走紅的第二天,就有人扒出其用戶協議中,有一條霸王條款:
1997年,吳宇森執導、尼古拉斯·凱奇主演的電影《變臉》上映。影片中,用激光切割臉皮的鏡頭,如今想來還有點瘮人,但也成為全片最大的情節亮點。
20年後,吳宇森有兩件事情沒有想到:一是凱奇變成了“爛片之王”,二是換臉這件事,已經成為人們的娛樂。
1、ZAO臉熱
9月的第一天,一款名叫“ZAO”的換臉軟件突然在朋友圈燥了起來。
軟件只需你上傳一張面部清晰的照片,就能利用AI合成技術,將你的臉部換到明星臉上,生成電影視頻或照片,網友們玩得不亦樂乎。
在這股娛樂風潮中,人們似乎還沒意識到把“臉”給丟了。
軟件莫名走紅的第二天,就有人扒出其用戶協議中,有一條霸王條款:
尤其是第2點:
如果您把用戶內容中的人臉換成您或其他人的臉,您同意或確保肖像項權利人同意授予“ZAO”及其關聯公司全球範圍內完全免費、不可撤銷、永久、可轉授權和可再許可的權利,包括但不限於:人臉照片、圖片、視頻資料等肖像資料中所含的您或肖像權利人的肖像權,以及利用技術對您或肖像權利人的肖像進行形式改動;
啥意思?當你在ZAO上傳照片生成視頻後,這一些列資料包括肖像權,該軟件都有權免費使用,並進行修改編輯。
如今,手機解鎖、購物支付、公共交通、上班打卡等都可以“刷臉”解決,如果自己的“臉”丟了,背後的隱私洩露風險,可想而知。
於是,網友憤怒了:這不是明顯的霸王條款?還想把我的臉丟到全球?
這款陌陌旗下的軟件也迅速給予了迴應:不,我們沒有采集任何個人生物識別特徵,而且合成的圖像不是用戶真實信息。
嘴上說著沒有,但身體還是很誠實的。在迴應的同時,他們順便把用戶協議改了:
1997年,吳宇森執導、尼古拉斯·凱奇主演的電影《變臉》上映。影片中,用激光切割臉皮的鏡頭,如今想來還有點瘮人,但也成為全片最大的情節亮點。
20年後,吳宇森有兩件事情沒有想到:一是凱奇變成了“爛片之王”,二是換臉這件事,已經成為人們的娛樂。
1、ZAO臉熱
9月的第一天,一款名叫“ZAO”的換臉軟件突然在朋友圈燥了起來。
軟件只需你上傳一張面部清晰的照片,就能利用AI合成技術,將你的臉部換到明星臉上,生成電影視頻或照片,網友們玩得不亦樂乎。
在這股娛樂風潮中,人們似乎還沒意識到把“臉”給丟了。
軟件莫名走紅的第二天,就有人扒出其用戶協議中,有一條霸王條款:
尤其是第2點:
如果您把用戶內容中的人臉換成您或其他人的臉,您同意或確保肖像項權利人同意授予“ZAO”及其關聯公司全球範圍內完全免費、不可撤銷、永久、可轉授權和可再許可的權利,包括但不限於:人臉照片、圖片、視頻資料等肖像資料中所含的您或肖像權利人的肖像權,以及利用技術對您或肖像權利人的肖像進行形式改動;
啥意思?當你在ZAO上傳照片生成視頻後,這一些列資料包括肖像權,該軟件都有權免費使用,並進行修改編輯。
如今,手機解鎖、購物支付、公共交通、上班打卡等都可以“刷臉”解決,如果自己的“臉”丟了,背後的隱私洩露風險,可想而知。
於是,網友憤怒了:這不是明顯的霸王條款?還想把我的臉丟到全球?
這款陌陌旗下的軟件也迅速給予了迴應:不,我們沒有采集任何個人生物識別特徵,而且合成的圖像不是用戶真實信息。
嘴上說著沒有,但身體還是很誠實的。在迴應的同時,他們順便把用戶協議改了:
很明顯,不可撤銷、永久等字眼已經消失。在這之後,ZAO的熱度也瞬間轉涼。
2、屢換屢涼
換臉這件事上,涼了的不止ZAO一個。
早在2017年,AI換臉就出現了。在深度學習算法的基礎上,一款叫做“Deepfake”的軟件橫空出世,與ZAO的運作原理一樣,將照片AI合成至視頻換臉。
Deepfake 一開始只在小範圍內流行,網友們也只是給明星換換臉,娛樂一下而已。比如下面這個著名的小片段,把楊冪的臉換到了83版射鵰英雄傳的黃蓉臉上:
1997年,吳宇森執導、尼古拉斯·凱奇主演的電影《變臉》上映。影片中,用激光切割臉皮的鏡頭,如今想來還有點瘮人,但也成為全片最大的情節亮點。
20年後,吳宇森有兩件事情沒有想到:一是凱奇變成了“爛片之王”,二是換臉這件事,已經成為人們的娛樂。
1、ZAO臉熱
9月的第一天,一款名叫“ZAO”的換臉軟件突然在朋友圈燥了起來。
軟件只需你上傳一張面部清晰的照片,就能利用AI合成技術,將你的臉部換到明星臉上,生成電影視頻或照片,網友們玩得不亦樂乎。
在這股娛樂風潮中,人們似乎還沒意識到把“臉”給丟了。
軟件莫名走紅的第二天,就有人扒出其用戶協議中,有一條霸王條款:
尤其是第2點:
如果您把用戶內容中的人臉換成您或其他人的臉,您同意或確保肖像項權利人同意授予“ZAO”及其關聯公司全球範圍內完全免費、不可撤銷、永久、可轉授權和可再許可的權利,包括但不限於:人臉照片、圖片、視頻資料等肖像資料中所含的您或肖像權利人的肖像權,以及利用技術對您或肖像權利人的肖像進行形式改動;
啥意思?當你在ZAO上傳照片生成視頻後,這一些列資料包括肖像權,該軟件都有權免費使用,並進行修改編輯。
如今,手機解鎖、購物支付、公共交通、上班打卡等都可以“刷臉”解決,如果自己的“臉”丟了,背後的隱私洩露風險,可想而知。
於是,網友憤怒了:這不是明顯的霸王條款?還想把我的臉丟到全球?
這款陌陌旗下的軟件也迅速給予了迴應:不,我們沒有采集任何個人生物識別特徵,而且合成的圖像不是用戶真實信息。
嘴上說著沒有,但身體還是很誠實的。在迴應的同時,他們順便把用戶協議改了:
很明顯,不可撤銷、永久等字眼已經消失。在這之後,ZAO的熱度也瞬間轉涼。
2、屢換屢涼
換臉這件事上,涼了的不止ZAO一個。
早在2017年,AI換臉就出現了。在深度學習算法的基礎上,一款叫做“Deepfake”的軟件橫空出世,與ZAO的運作原理一樣,將照片AI合成至視頻換臉。
Deepfake 一開始只在小範圍內流行,網友們也只是給明星換換臉,娛樂一下而已。比如下面這個著名的小片段,把楊冪的臉換到了83版射鵰英雄傳的黃蓉臉上:
而推動它迅速火爆起來的,是把明星的臉換到不可描述的小電影上。有時候你得承認,人的本能需求,也是推動技術創新的動力之一。
但技術的進步,不能凌駕於道德至上。AI換臉在成人影片中的擴散,給女明星帶來了陰影。不僅形象版權、名譽都受到傷害,在闢謠的難度上,也增加不少,因為你很難給那些不懂這項技術的人解釋清楚,什麼是AI換臉。
更有甚者,拿著換臉視頻上門敲詐勒索,成了不穩定因素之一。
於是,Deepfake遭遇全球封殺。
今年出現的一款模仿應用Deepnude,俗稱“一鍵脫衣”,推出幾個小時服務器就被擠爆。但因其一面世就帶著作惡的目的,面臨的道德譴責壓力更大,幾天後創始人主動關停了這個項目。
技術的進步,帶來的是隱私保護的難度提升。從指紋識別到人臉識別,甚至以後的眼球識別,人的生物體徵信息,越來越成為關鍵隱私。一旦有信息洩露,對個人的生活都將會帶來全方位的危機。
未來時代,“臉”一點都不能丟!
3、校園監視危機
巧合的是,這幾天還有家公司因為人臉,登上了熱搜。
8月25日,港交所公佈了曠視科技的IPO信息。這家由三個清華大學生創立,以人工智能為標籤的獨角獸公司,成立8年時間裡融資4輪12次,總融資金額達到13.49億美元,估值也達到了40億美元。
曠視科技的主營業務可概括為個人物聯網、城市物聯網和供應鏈物聯網三大類。而其中的個人物聯網業務,就是以人臉識別技術為核心展開的。
曠視旗下的Face++,人臉識別準確度高達97%,已廣泛用於多家智能手機廠商。
而曠視的一則宣傳片,則引起了巨大爭議。
1997年,吳宇森執導、尼古拉斯·凱奇主演的電影《變臉》上映。影片中,用激光切割臉皮的鏡頭,如今想來還有點瘮人,但也成為全片最大的情節亮點。
20年後,吳宇森有兩件事情沒有想到:一是凱奇變成了“爛片之王”,二是換臉這件事,已經成為人們的娛樂。
1、ZAO臉熱
9月的第一天,一款名叫“ZAO”的換臉軟件突然在朋友圈燥了起來。
軟件只需你上傳一張面部清晰的照片,就能利用AI合成技術,將你的臉部換到明星臉上,生成電影視頻或照片,網友們玩得不亦樂乎。
在這股娛樂風潮中,人們似乎還沒意識到把“臉”給丟了。
軟件莫名走紅的第二天,就有人扒出其用戶協議中,有一條霸王條款:
尤其是第2點:
如果您把用戶內容中的人臉換成您或其他人的臉,您同意或確保肖像項權利人同意授予“ZAO”及其關聯公司全球範圍內完全免費、不可撤銷、永久、可轉授權和可再許可的權利,包括但不限於:人臉照片、圖片、視頻資料等肖像資料中所含的您或肖像權利人的肖像權,以及利用技術對您或肖像權利人的肖像進行形式改動;
啥意思?當你在ZAO上傳照片生成視頻後,這一些列資料包括肖像權,該軟件都有權免費使用,並進行修改編輯。
如今,手機解鎖、購物支付、公共交通、上班打卡等都可以“刷臉”解決,如果自己的“臉”丟了,背後的隱私洩露風險,可想而知。
於是,網友憤怒了:這不是明顯的霸王條款?還想把我的臉丟到全球?
這款陌陌旗下的軟件也迅速給予了迴應:不,我們沒有采集任何個人生物識別特徵,而且合成的圖像不是用戶真實信息。
嘴上說著沒有,但身體還是很誠實的。在迴應的同時,他們順便把用戶協議改了:
很明顯,不可撤銷、永久等字眼已經消失。在這之後,ZAO的熱度也瞬間轉涼。
2、屢換屢涼
換臉這件事上,涼了的不止ZAO一個。
早在2017年,AI換臉就出現了。在深度學習算法的基礎上,一款叫做“Deepfake”的軟件橫空出世,與ZAO的運作原理一樣,將照片AI合成至視頻換臉。
Deepfake 一開始只在小範圍內流行,網友們也只是給明星換換臉,娛樂一下而已。比如下面這個著名的小片段,把楊冪的臉換到了83版射鵰英雄傳的黃蓉臉上:
而推動它迅速火爆起來的,是把明星的臉換到不可描述的小電影上。有時候你得承認,人的本能需求,也是推動技術創新的動力之一。
但技術的進步,不能凌駕於道德至上。AI換臉在成人影片中的擴散,給女明星帶來了陰影。不僅形象版權、名譽都受到傷害,在闢謠的難度上,也增加不少,因為你很難給那些不懂這項技術的人解釋清楚,什麼是AI換臉。
更有甚者,拿著換臉視頻上門敲詐勒索,成了不穩定因素之一。
於是,Deepfake遭遇全球封殺。
今年出現的一款模仿應用Deepnude,俗稱“一鍵脫衣”,推出幾個小時服務器就被擠爆。但因其一面世就帶著作惡的目的,面臨的道德譴責壓力更大,幾天後創始人主動關停了這個項目。
技術的進步,帶來的是隱私保護的難度提升。從指紋識別到人臉識別,甚至以後的眼球識別,人的生物體徵信息,越來越成為關鍵隱私。一旦有信息洩露,對個人的生活都將會帶來全方位的危機。
未來時代,“臉”一點都不能丟!
3、校園監視危機
巧合的是,這幾天還有家公司因為人臉,登上了熱搜。
8月25日,港交所公佈了曠視科技的IPO信息。這家由三個清華大學生創立,以人工智能為標籤的獨角獸公司,成立8年時間裡融資4輪12次,總融資金額達到13.49億美元,估值也達到了40億美元。
曠視科技的主營業務可概括為個人物聯網、城市物聯網和供應鏈物聯網三大類。而其中的個人物聯網業務,就是以人臉識別技術為核心展開的。
曠視旗下的Face++,人臉識別準確度高達97%,已廣泛用於多家智能手機廠商。
而曠視的一則宣傳片,則引起了巨大爭議。
1997年,吳宇森執導、尼古拉斯·凱奇主演的電影《變臉》上映。影片中,用激光切割臉皮的鏡頭,如今想來還有點瘮人,但也成為全片最大的情節亮點。
20年後,吳宇森有兩件事情沒有想到:一是凱奇變成了“爛片之王”,二是換臉這件事,已經成為人們的娛樂。
1、ZAO臉熱
9月的第一天,一款名叫“ZAO”的換臉軟件突然在朋友圈燥了起來。
軟件只需你上傳一張面部清晰的照片,就能利用AI合成技術,將你的臉部換到明星臉上,生成電影視頻或照片,網友們玩得不亦樂乎。
在這股娛樂風潮中,人們似乎還沒意識到把“臉”給丟了。
軟件莫名走紅的第二天,就有人扒出其用戶協議中,有一條霸王條款:
尤其是第2點:
如果您把用戶內容中的人臉換成您或其他人的臉,您同意或確保肖像項權利人同意授予“ZAO”及其關聯公司全球範圍內完全免費、不可撤銷、永久、可轉授權和可再許可的權利,包括但不限於:人臉照片、圖片、視頻資料等肖像資料中所含的您或肖像權利人的肖像權,以及利用技術對您或肖像權利人的肖像進行形式改動;
啥意思?當你在ZAO上傳照片生成視頻後,這一些列資料包括肖像權,該軟件都有權免費使用,並進行修改編輯。
如今,手機解鎖、購物支付、公共交通、上班打卡等都可以“刷臉”解決,如果自己的“臉”丟了,背後的隱私洩露風險,可想而知。
於是,網友憤怒了:這不是明顯的霸王條款?還想把我的臉丟到全球?
這款陌陌旗下的軟件也迅速給予了迴應:不,我們沒有采集任何個人生物識別特徵,而且合成的圖像不是用戶真實信息。
嘴上說著沒有,但身體還是很誠實的。在迴應的同時,他們順便把用戶協議改了:
很明顯,不可撤銷、永久等字眼已經消失。在這之後,ZAO的熱度也瞬間轉涼。
2、屢換屢涼
換臉這件事上,涼了的不止ZAO一個。
早在2017年,AI換臉就出現了。在深度學習算法的基礎上,一款叫做“Deepfake”的軟件橫空出世,與ZAO的運作原理一樣,將照片AI合成至視頻換臉。
Deepfake 一開始只在小範圍內流行,網友們也只是給明星換換臉,娛樂一下而已。比如下面這個著名的小片段,把楊冪的臉換到了83版射鵰英雄傳的黃蓉臉上:
而推動它迅速火爆起來的,是把明星的臉換到不可描述的小電影上。有時候你得承認,人的本能需求,也是推動技術創新的動力之一。
但技術的進步,不能凌駕於道德至上。AI換臉在成人影片中的擴散,給女明星帶來了陰影。不僅形象版權、名譽都受到傷害,在闢謠的難度上,也增加不少,因為你很難給那些不懂這項技術的人解釋清楚,什麼是AI換臉。
更有甚者,拿著換臉視頻上門敲詐勒索,成了不穩定因素之一。
於是,Deepfake遭遇全球封殺。
今年出現的一款模仿應用Deepnude,俗稱“一鍵脫衣”,推出幾個小時服務器就被擠爆。但因其一面世就帶著作惡的目的,面臨的道德譴責壓力更大,幾天後創始人主動關停了這個項目。
技術的進步,帶來的是隱私保護的難度提升。從指紋識別到人臉識別,甚至以後的眼球識別,人的生物體徵信息,越來越成為關鍵隱私。一旦有信息洩露,對個人的生活都將會帶來全方位的危機。
未來時代,“臉”一點都不能丟!
3、校園監視危機
巧合的是,這幾天還有家公司因為人臉,登上了熱搜。
8月25日,港交所公佈了曠視科技的IPO信息。這家由三個清華大學生創立,以人工智能為標籤的獨角獸公司,成立8年時間裡融資4輪12次,總融資金額達到13.49億美元,估值也達到了40億美元。
曠視科技的主營業務可概括為個人物聯網、城市物聯網和供應鏈物聯網三大類。而其中的個人物聯網業務,就是以人臉識別技術為核心展開的。
曠視旗下的Face++,人臉識別準確度高達97%,已廣泛用於多家智能手機廠商。
而曠視的一則宣傳片,則引起了巨大爭議。
1997年,吳宇森執導、尼古拉斯·凱奇主演的電影《變臉》上映。影片中,用激光切割臉皮的鏡頭,如今想來還有點瘮人,但也成為全片最大的情節亮點。
20年後,吳宇森有兩件事情沒有想到:一是凱奇變成了“爛片之王”,二是換臉這件事,已經成為人們的娛樂。
1、ZAO臉熱
9月的第一天,一款名叫“ZAO”的換臉軟件突然在朋友圈燥了起來。
軟件只需你上傳一張面部清晰的照片,就能利用AI合成技術,將你的臉部換到明星臉上,生成電影視頻或照片,網友們玩得不亦樂乎。
在這股娛樂風潮中,人們似乎還沒意識到把“臉”給丟了。
軟件莫名走紅的第二天,就有人扒出其用戶協議中,有一條霸王條款:
尤其是第2點:
如果您把用戶內容中的人臉換成您或其他人的臉,您同意或確保肖像項權利人同意授予“ZAO”及其關聯公司全球範圍內完全免費、不可撤銷、永久、可轉授權和可再許可的權利,包括但不限於:人臉照片、圖片、視頻資料等肖像資料中所含的您或肖像權利人的肖像權,以及利用技術對您或肖像權利人的肖像進行形式改動;
啥意思?當你在ZAO上傳照片生成視頻後,這一些列資料包括肖像權,該軟件都有權免費使用,並進行修改編輯。
如今,手機解鎖、購物支付、公共交通、上班打卡等都可以“刷臉”解決,如果自己的“臉”丟了,背後的隱私洩露風險,可想而知。
於是,網友憤怒了:這不是明顯的霸王條款?還想把我的臉丟到全球?
這款陌陌旗下的軟件也迅速給予了迴應:不,我們沒有采集任何個人生物識別特徵,而且合成的圖像不是用戶真實信息。
嘴上說著沒有,但身體還是很誠實的。在迴應的同時,他們順便把用戶協議改了:
很明顯,不可撤銷、永久等字眼已經消失。在這之後,ZAO的熱度也瞬間轉涼。
2、屢換屢涼
換臉這件事上,涼了的不止ZAO一個。
早在2017年,AI換臉就出現了。在深度學習算法的基礎上,一款叫做“Deepfake”的軟件橫空出世,與ZAO的運作原理一樣,將照片AI合成至視頻換臉。
Deepfake 一開始只在小範圍內流行,網友們也只是給明星換換臉,娛樂一下而已。比如下面這個著名的小片段,把楊冪的臉換到了83版射鵰英雄傳的黃蓉臉上:
而推動它迅速火爆起來的,是把明星的臉換到不可描述的小電影上。有時候你得承認,人的本能需求,也是推動技術創新的動力之一。
但技術的進步,不能凌駕於道德至上。AI換臉在成人影片中的擴散,給女明星帶來了陰影。不僅形象版權、名譽都受到傷害,在闢謠的難度上,也增加不少,因為你很難給那些不懂這項技術的人解釋清楚,什麼是AI換臉。
更有甚者,拿著換臉視頻上門敲詐勒索,成了不穩定因素之一。
於是,Deepfake遭遇全球封殺。
今年出現的一款模仿應用Deepnude,俗稱“一鍵脫衣”,推出幾個小時服務器就被擠爆。但因其一面世就帶著作惡的目的,面臨的道德譴責壓力更大,幾天後創始人主動關停了這個項目。
技術的進步,帶來的是隱私保護的難度提升。從指紋識別到人臉識別,甚至以後的眼球識別,人的生物體徵信息,越來越成為關鍵隱私。一旦有信息洩露,對個人的生活都將會帶來全方位的危機。
未來時代,“臉”一點都不能丟!
3、校園監視危機
巧合的是,這幾天還有家公司因為人臉,登上了熱搜。
8月25日,港交所公佈了曠視科技的IPO信息。這家由三個清華大學生創立,以人工智能為標籤的獨角獸公司,成立8年時間裡融資4輪12次,總融資金額達到13.49億美元,估值也達到了40億美元。
曠視科技的主營業務可概括為個人物聯網、城市物聯網和供應鏈物聯網三大類。而其中的個人物聯網業務,就是以人臉識別技術為核心展開的。
曠視旗下的Face++,人臉識別準確度高達97%,已廣泛用於多家智能手機廠商。
而曠視的一則宣傳片,則引起了巨大爭議。
在這則人臉識別運用到班級管理的短片中,攝像頭不僅可以識別學生的姓名、性別等基本信息,還能統計聽講、舉手、睡覺、玩手機等行為的次數,以判斷學生學習的認真程度。
甚至還能通過表情來識別學生情緒,以判斷他們對課程的喜好程度,數據非常精細化。
1997年,吳宇森執導、尼古拉斯·凱奇主演的電影《變臉》上映。影片中,用激光切割臉皮的鏡頭,如今想來還有點瘮人,但也成為全片最大的情節亮點。
20年後,吳宇森有兩件事情沒有想到:一是凱奇變成了“爛片之王”,二是換臉這件事,已經成為人們的娛樂。
1、ZAO臉熱
9月的第一天,一款名叫“ZAO”的換臉軟件突然在朋友圈燥了起來。
軟件只需你上傳一張面部清晰的照片,就能利用AI合成技術,將你的臉部換到明星臉上,生成電影視頻或照片,網友們玩得不亦樂乎。
在這股娛樂風潮中,人們似乎還沒意識到把“臉”給丟了。
軟件莫名走紅的第二天,就有人扒出其用戶協議中,有一條霸王條款:
尤其是第2點:
如果您把用戶內容中的人臉換成您或其他人的臉,您同意或確保肖像項權利人同意授予“ZAO”及其關聯公司全球範圍內完全免費、不可撤銷、永久、可轉授權和可再許可的權利,包括但不限於:人臉照片、圖片、視頻資料等肖像資料中所含的您或肖像權利人的肖像權,以及利用技術對您或肖像權利人的肖像進行形式改動;
啥意思?當你在ZAO上傳照片生成視頻後,這一些列資料包括肖像權,該軟件都有權免費使用,並進行修改編輯。
如今,手機解鎖、購物支付、公共交通、上班打卡等都可以“刷臉”解決,如果自己的“臉”丟了,背後的隱私洩露風險,可想而知。
於是,網友憤怒了:這不是明顯的霸王條款?還想把我的臉丟到全球?
這款陌陌旗下的軟件也迅速給予了迴應:不,我們沒有采集任何個人生物識別特徵,而且合成的圖像不是用戶真實信息。
嘴上說著沒有,但身體還是很誠實的。在迴應的同時,他們順便把用戶協議改了:
很明顯,不可撤銷、永久等字眼已經消失。在這之後,ZAO的熱度也瞬間轉涼。
2、屢換屢涼
換臉這件事上,涼了的不止ZAO一個。
早在2017年,AI換臉就出現了。在深度學習算法的基礎上,一款叫做“Deepfake”的軟件橫空出世,與ZAO的運作原理一樣,將照片AI合成至視頻換臉。
Deepfake 一開始只在小範圍內流行,網友們也只是給明星換換臉,娛樂一下而已。比如下面這個著名的小片段,把楊冪的臉換到了83版射鵰英雄傳的黃蓉臉上:
而推動它迅速火爆起來的,是把明星的臉換到不可描述的小電影上。有時候你得承認,人的本能需求,也是推動技術創新的動力之一。
但技術的進步,不能凌駕於道德至上。AI換臉在成人影片中的擴散,給女明星帶來了陰影。不僅形象版權、名譽都受到傷害,在闢謠的難度上,也增加不少,因為你很難給那些不懂這項技術的人解釋清楚,什麼是AI換臉。
更有甚者,拿著換臉視頻上門敲詐勒索,成了不穩定因素之一。
於是,Deepfake遭遇全球封殺。
今年出現的一款模仿應用Deepnude,俗稱“一鍵脫衣”,推出幾個小時服務器就被擠爆。但因其一面世就帶著作惡的目的,面臨的道德譴責壓力更大,幾天後創始人主動關停了這個項目。
技術的進步,帶來的是隱私保護的難度提升。從指紋識別到人臉識別,甚至以後的眼球識別,人的生物體徵信息,越來越成為關鍵隱私。一旦有信息洩露,對個人的生活都將會帶來全方位的危機。
未來時代,“臉”一點都不能丟!
3、校園監視危機
巧合的是,這幾天還有家公司因為人臉,登上了熱搜。
8月25日,港交所公佈了曠視科技的IPO信息。這家由三個清華大學生創立,以人工智能為標籤的獨角獸公司,成立8年時間裡融資4輪12次,總融資金額達到13.49億美元,估值也達到了40億美元。
曠視科技的主營業務可概括為個人物聯網、城市物聯網和供應鏈物聯網三大類。而其中的個人物聯網業務,就是以人臉識別技術為核心展開的。
曠視旗下的Face++,人臉識別準確度高達97%,已廣泛用於多家智能手機廠商。
而曠視的一則宣傳片,則引起了巨大爭議。
在這則人臉識別運用到班級管理的短片中,攝像頭不僅可以識別學生的姓名、性別等基本信息,還能統計聽講、舉手、睡覺、玩手機等行為的次數,以判斷學生學習的認真程度。
甚至還能通過表情來識別學生情緒,以判斷他們對課程的喜好程度,數據非常精細化。
1997年,吳宇森執導、尼古拉斯·凱奇主演的電影《變臉》上映。影片中,用激光切割臉皮的鏡頭,如今想來還有點瘮人,但也成為全片最大的情節亮點。
20年後,吳宇森有兩件事情沒有想到:一是凱奇變成了“爛片之王”,二是換臉這件事,已經成為人們的娛樂。
1、ZAO臉熱
9月的第一天,一款名叫“ZAO”的換臉軟件突然在朋友圈燥了起來。
軟件只需你上傳一張面部清晰的照片,就能利用AI合成技術,將你的臉部換到明星臉上,生成電影視頻或照片,網友們玩得不亦樂乎。
在這股娛樂風潮中,人們似乎還沒意識到把“臉”給丟了。
軟件莫名走紅的第二天,就有人扒出其用戶協議中,有一條霸王條款:
尤其是第2點:
如果您把用戶內容中的人臉換成您或其他人的臉,您同意或確保肖像項權利人同意授予“ZAO”及其關聯公司全球範圍內完全免費、不可撤銷、永久、可轉授權和可再許可的權利,包括但不限於:人臉照片、圖片、視頻資料等肖像資料中所含的您或肖像權利人的肖像權,以及利用技術對您或肖像權利人的肖像進行形式改動;
啥意思?當你在ZAO上傳照片生成視頻後,這一些列資料包括肖像權,該軟件都有權免費使用,並進行修改編輯。
如今,手機解鎖、購物支付、公共交通、上班打卡等都可以“刷臉”解決,如果自己的“臉”丟了,背後的隱私洩露風險,可想而知。
於是,網友憤怒了:這不是明顯的霸王條款?還想把我的臉丟到全球?
這款陌陌旗下的軟件也迅速給予了迴應:不,我們沒有采集任何個人生物識別特徵,而且合成的圖像不是用戶真實信息。
嘴上說著沒有,但身體還是很誠實的。在迴應的同時,他們順便把用戶協議改了:
很明顯,不可撤銷、永久等字眼已經消失。在這之後,ZAO的熱度也瞬間轉涼。
2、屢換屢涼
換臉這件事上,涼了的不止ZAO一個。
早在2017年,AI換臉就出現了。在深度學習算法的基礎上,一款叫做“Deepfake”的軟件橫空出世,與ZAO的運作原理一樣,將照片AI合成至視頻換臉。
Deepfake 一開始只在小範圍內流行,網友們也只是給明星換換臉,娛樂一下而已。比如下面這個著名的小片段,把楊冪的臉換到了83版射鵰英雄傳的黃蓉臉上:
而推動它迅速火爆起來的,是把明星的臉換到不可描述的小電影上。有時候你得承認,人的本能需求,也是推動技術創新的動力之一。
但技術的進步,不能凌駕於道德至上。AI換臉在成人影片中的擴散,給女明星帶來了陰影。不僅形象版權、名譽都受到傷害,在闢謠的難度上,也增加不少,因為你很難給那些不懂這項技術的人解釋清楚,什麼是AI換臉。
更有甚者,拿著換臉視頻上門敲詐勒索,成了不穩定因素之一。
於是,Deepfake遭遇全球封殺。
今年出現的一款模仿應用Deepnude,俗稱“一鍵脫衣”,推出幾個小時服務器就被擠爆。但因其一面世就帶著作惡的目的,面臨的道德譴責壓力更大,幾天後創始人主動關停了這個項目。
技術的進步,帶來的是隱私保護的難度提升。從指紋識別到人臉識別,甚至以後的眼球識別,人的生物體徵信息,越來越成為關鍵隱私。一旦有信息洩露,對個人的生活都將會帶來全方位的危機。
未來時代,“臉”一點都不能丟!
3、校園監視危機
巧合的是,這幾天還有家公司因為人臉,登上了熱搜。
8月25日,港交所公佈了曠視科技的IPO信息。這家由三個清華大學生創立,以人工智能為標籤的獨角獸公司,成立8年時間裡融資4輪12次,總融資金額達到13.49億美元,估值也達到了40億美元。
曠視科技的主營業務可概括為個人物聯網、城市物聯網和供應鏈物聯網三大類。而其中的個人物聯網業務,就是以人臉識別技術為核心展開的。
曠視旗下的Face++,人臉識別準確度高達97%,已廣泛用於多家智能手機廠商。
而曠視的一則宣傳片,則引起了巨大爭議。
在這則人臉識別運用到班級管理的短片中,攝像頭不僅可以識別學生的姓名、性別等基本信息,還能統計聽講、舉手、睡覺、玩手機等行為的次數,以判斷學生學習的認真程度。
甚至還能通過表情來識別學生情緒,以判斷他們對課程的喜好程度,數據非常精細化。
圖片一出,便引起網友的強烈反對。
太侵犯隱私了!活脫脫的1984……這是學校還是監獄啊?人工智能,科學養豬……喬英子表示瞬間活不下去……
曠視也很快給出了迴應,圖片只是技術場景化概念演示,我們會堅持正當性、數據隱私保護等核心原則。
魔幻的是,這項技術在現實中早已應用。
8月底,媒體稱位於南京的中國藥科大學在兩間教室試點安裝了人臉識別系統,除了能自動識別學生的出勤情況,還能夠實現對學生課堂聽講情況的全程監控。
1997年,吳宇森執導、尼古拉斯·凱奇主演的電影《變臉》上映。影片中,用激光切割臉皮的鏡頭,如今想來還有點瘮人,但也成為全片最大的情節亮點。
20年後,吳宇森有兩件事情沒有想到:一是凱奇變成了“爛片之王”,二是換臉這件事,已經成為人們的娛樂。
1、ZAO臉熱
9月的第一天,一款名叫“ZAO”的換臉軟件突然在朋友圈燥了起來。
軟件只需你上傳一張面部清晰的照片,就能利用AI合成技術,將你的臉部換到明星臉上,生成電影視頻或照片,網友們玩得不亦樂乎。
在這股娛樂風潮中,人們似乎還沒意識到把“臉”給丟了。
軟件莫名走紅的第二天,就有人扒出其用戶協議中,有一條霸王條款:
尤其是第2點:
如果您把用戶內容中的人臉換成您或其他人的臉,您同意或確保肖像項權利人同意授予“ZAO”及其關聯公司全球範圍內完全免費、不可撤銷、永久、可轉授權和可再許可的權利,包括但不限於:人臉照片、圖片、視頻資料等肖像資料中所含的您或肖像權利人的肖像權,以及利用技術對您或肖像權利人的肖像進行形式改動;
啥意思?當你在ZAO上傳照片生成視頻後,這一些列資料包括肖像權,該軟件都有權免費使用,並進行修改編輯。
如今,手機解鎖、購物支付、公共交通、上班打卡等都可以“刷臉”解決,如果自己的“臉”丟了,背後的隱私洩露風險,可想而知。
於是,網友憤怒了:這不是明顯的霸王條款?還想把我的臉丟到全球?
這款陌陌旗下的軟件也迅速給予了迴應:不,我們沒有采集任何個人生物識別特徵,而且合成的圖像不是用戶真實信息。
嘴上說著沒有,但身體還是很誠實的。在迴應的同時,他們順便把用戶協議改了:
很明顯,不可撤銷、永久等字眼已經消失。在這之後,ZAO的熱度也瞬間轉涼。
2、屢換屢涼
換臉這件事上,涼了的不止ZAO一個。
早在2017年,AI換臉就出現了。在深度學習算法的基礎上,一款叫做“Deepfake”的軟件橫空出世,與ZAO的運作原理一樣,將照片AI合成至視頻換臉。
Deepfake 一開始只在小範圍內流行,網友們也只是給明星換換臉,娛樂一下而已。比如下面這個著名的小片段,把楊冪的臉換到了83版射鵰英雄傳的黃蓉臉上:
而推動它迅速火爆起來的,是把明星的臉換到不可描述的小電影上。有時候你得承認,人的本能需求,也是推動技術創新的動力之一。
但技術的進步,不能凌駕於道德至上。AI換臉在成人影片中的擴散,給女明星帶來了陰影。不僅形象版權、名譽都受到傷害,在闢謠的難度上,也增加不少,因為你很難給那些不懂這項技術的人解釋清楚,什麼是AI換臉。
更有甚者,拿著換臉視頻上門敲詐勒索,成了不穩定因素之一。
於是,Deepfake遭遇全球封殺。
今年出現的一款模仿應用Deepnude,俗稱“一鍵脫衣”,推出幾個小時服務器就被擠爆。但因其一面世就帶著作惡的目的,面臨的道德譴責壓力更大,幾天後創始人主動關停了這個項目。
技術的進步,帶來的是隱私保護的難度提升。從指紋識別到人臉識別,甚至以後的眼球識別,人的生物體徵信息,越來越成為關鍵隱私。一旦有信息洩露,對個人的生活都將會帶來全方位的危機。
未來時代,“臉”一點都不能丟!
3、校園監視危機
巧合的是,這幾天還有家公司因為人臉,登上了熱搜。
8月25日,港交所公佈了曠視科技的IPO信息。這家由三個清華大學生創立,以人工智能為標籤的獨角獸公司,成立8年時間裡融資4輪12次,總融資金額達到13.49億美元,估值也達到了40億美元。
曠視科技的主營業務可概括為個人物聯網、城市物聯網和供應鏈物聯網三大類。而其中的個人物聯網業務,就是以人臉識別技術為核心展開的。
曠視旗下的Face++,人臉識別準確度高達97%,已廣泛用於多家智能手機廠商。
而曠視的一則宣傳片,則引起了巨大爭議。
在這則人臉識別運用到班級管理的短片中,攝像頭不僅可以識別學生的姓名、性別等基本信息,還能統計聽講、舉手、睡覺、玩手機等行為的次數,以判斷學生學習的認真程度。
甚至還能通過表情來識別學生情緒,以判斷他們對課程的喜好程度,數據非常精細化。
圖片一出,便引起網友的強烈反對。
太侵犯隱私了!活脫脫的1984……這是學校還是監獄啊?人工智能,科學養豬……喬英子表示瞬間活不下去……
曠視也很快給出了迴應,圖片只是技術場景化概念演示,我們會堅持正當性、數據隱私保護等核心原則。
魔幻的是,這項技術在現實中早已應用。
8月底,媒體稱位於南京的中國藥科大學在兩間教室試點安裝了人臉識別系統,除了能自動識別學生的出勤情況,還能夠實現對學生課堂聽講情況的全程監控。
而設備的供應商,正是曠視科技。
4、技術無罪?
必須承認,AI時代正在到來。語音識別、自動駕駛、機器人等技術,也在慢慢成熟。
作為其中的代表性技術,大眾對人臉識別的接受度也在提升,2017上半年,中國使用過刷臉支付的網民佔比18.7%。
除了日常生活中的刷臉支付、解鎖等,人臉識別在闖紅燈警示等維護公共秩序方面已經有了很好的應用。並且其應用領域,正在不斷擴大。
9月4日,央視財經播出一則消息:15年前,深圳尤國明夫婦的兒子小勇在菜市場走丟。2017年年底,公安機關與騰訊共同開發跨年齡人臉識別技術。通過模型跟數據比對,推測出小勇長大後的幾百張照片,從而推斷出相似度更高的人員名單,最終找到了尤國明夫婦的孩子。
1997年,吳宇森執導、尼古拉斯·凱奇主演的電影《變臉》上映。影片中,用激光切割臉皮的鏡頭,如今想來還有點瘮人,但也成為全片最大的情節亮點。
20年後,吳宇森有兩件事情沒有想到:一是凱奇變成了“爛片之王”,二是換臉這件事,已經成為人們的娛樂。
1、ZAO臉熱
9月的第一天,一款名叫“ZAO”的換臉軟件突然在朋友圈燥了起來。
軟件只需你上傳一張面部清晰的照片,就能利用AI合成技術,將你的臉部換到明星臉上,生成電影視頻或照片,網友們玩得不亦樂乎。
在這股娛樂風潮中,人們似乎還沒意識到把“臉”給丟了。
軟件莫名走紅的第二天,就有人扒出其用戶協議中,有一條霸王條款:
尤其是第2點:
如果您把用戶內容中的人臉換成您或其他人的臉,您同意或確保肖像項權利人同意授予“ZAO”及其關聯公司全球範圍內完全免費、不可撤銷、永久、可轉授權和可再許可的權利,包括但不限於:人臉照片、圖片、視頻資料等肖像資料中所含的您或肖像權利人的肖像權,以及利用技術對您或肖像權利人的肖像進行形式改動;
啥意思?當你在ZAO上傳照片生成視頻後,這一些列資料包括肖像權,該軟件都有權免費使用,並進行修改編輯。
如今,手機解鎖、購物支付、公共交通、上班打卡等都可以“刷臉”解決,如果自己的“臉”丟了,背後的隱私洩露風險,可想而知。
於是,網友憤怒了:這不是明顯的霸王條款?還想把我的臉丟到全球?
這款陌陌旗下的軟件也迅速給予了迴應:不,我們沒有采集任何個人生物識別特徵,而且合成的圖像不是用戶真實信息。
嘴上說著沒有,但身體還是很誠實的。在迴應的同時,他們順便把用戶協議改了:
很明顯,不可撤銷、永久等字眼已經消失。在這之後,ZAO的熱度也瞬間轉涼。
2、屢換屢涼
換臉這件事上,涼了的不止ZAO一個。
早在2017年,AI換臉就出現了。在深度學習算法的基礎上,一款叫做“Deepfake”的軟件橫空出世,與ZAO的運作原理一樣,將照片AI合成至視頻換臉。
Deepfake 一開始只在小範圍內流行,網友們也只是給明星換換臉,娛樂一下而已。比如下面這個著名的小片段,把楊冪的臉換到了83版射鵰英雄傳的黃蓉臉上:
而推動它迅速火爆起來的,是把明星的臉換到不可描述的小電影上。有時候你得承認,人的本能需求,也是推動技術創新的動力之一。
但技術的進步,不能凌駕於道德至上。AI換臉在成人影片中的擴散,給女明星帶來了陰影。不僅形象版權、名譽都受到傷害,在闢謠的難度上,也增加不少,因為你很難給那些不懂這項技術的人解釋清楚,什麼是AI換臉。
更有甚者,拿著換臉視頻上門敲詐勒索,成了不穩定因素之一。
於是,Deepfake遭遇全球封殺。
今年出現的一款模仿應用Deepnude,俗稱“一鍵脫衣”,推出幾個小時服務器就被擠爆。但因其一面世就帶著作惡的目的,面臨的道德譴責壓力更大,幾天後創始人主動關停了這個項目。
技術的進步,帶來的是隱私保護的難度提升。從指紋識別到人臉識別,甚至以後的眼球識別,人的生物體徵信息,越來越成為關鍵隱私。一旦有信息洩露,對個人的生活都將會帶來全方位的危機。
未來時代,“臉”一點都不能丟!
3、校園監視危機
巧合的是,這幾天還有家公司因為人臉,登上了熱搜。
8月25日,港交所公佈了曠視科技的IPO信息。這家由三個清華大學生創立,以人工智能為標籤的獨角獸公司,成立8年時間裡融資4輪12次,總融資金額達到13.49億美元,估值也達到了40億美元。
曠視科技的主營業務可概括為個人物聯網、城市物聯網和供應鏈物聯網三大類。而其中的個人物聯網業務,就是以人臉識別技術為核心展開的。
曠視旗下的Face++,人臉識別準確度高達97%,已廣泛用於多家智能手機廠商。
而曠視的一則宣傳片,則引起了巨大爭議。
在這則人臉識別運用到班級管理的短片中,攝像頭不僅可以識別學生的姓名、性別等基本信息,還能統計聽講、舉手、睡覺、玩手機等行為的次數,以判斷學生學習的認真程度。
甚至還能通過表情來識別學生情緒,以判斷他們對課程的喜好程度,數據非常精細化。
圖片一出,便引起網友的強烈反對。
太侵犯隱私了!活脫脫的1984……這是學校還是監獄啊?人工智能,科學養豬……喬英子表示瞬間活不下去……
曠視也很快給出了迴應,圖片只是技術場景化概念演示,我們會堅持正當性、數據隱私保護等核心原則。
魔幻的是,這項技術在現實中早已應用。
8月底,媒體稱位於南京的中國藥科大學在兩間教室試點安裝了人臉識別系統,除了能自動識別學生的出勤情況,還能夠實現對學生課堂聽講情況的全程監控。
而設備的供應商,正是曠視科技。
4、技術無罪?
必須承認,AI時代正在到來。語音識別、自動駕駛、機器人等技術,也在慢慢成熟。
作為其中的代表性技術,大眾對人臉識別的接受度也在提升,2017上半年,中國使用過刷臉支付的網民佔比18.7%。
除了日常生活中的刷臉支付、解鎖等,人臉識別在闖紅燈警示等維護公共秩序方面已經有了很好的應用。並且其應用領域,正在不斷擴大。
9月4日,央視財經播出一則消息:15年前,深圳尤國明夫婦的兒子小勇在菜市場走丟。2017年年底,公安機關與騰訊共同開發跨年齡人臉識別技術。通過模型跟數據比對,推測出小勇長大後的幾百張照片,從而推斷出相似度更高的人員名單,最終找到了尤國明夫婦的孩子。
但在草莽的AI時代,一切規則都混沌不清。人臉識別技術的推廣,有著天然的障礙——人們對於隱私的保護,尤其是在這個看臉的時代,“臉”對人來說太重要了。
如何確保技術方不存儲數據?如何確保圖像信息不用於其他場景?如何確保這張“臉”的真實性?如何確保這張臉不被他人利用?
鑽漏洞的例子也數不勝數。
1997年,吳宇森執導、尼古拉斯·凱奇主演的電影《變臉》上映。影片中,用激光切割臉皮的鏡頭,如今想來還有點瘮人,但也成為全片最大的情節亮點。
20年後,吳宇森有兩件事情沒有想到:一是凱奇變成了“爛片之王”,二是換臉這件事,已經成為人們的娛樂。
1、ZAO臉熱
9月的第一天,一款名叫“ZAO”的換臉軟件突然在朋友圈燥了起來。
軟件只需你上傳一張面部清晰的照片,就能利用AI合成技術,將你的臉部換到明星臉上,生成電影視頻或照片,網友們玩得不亦樂乎。
在這股娛樂風潮中,人們似乎還沒意識到把“臉”給丟了。
軟件莫名走紅的第二天,就有人扒出其用戶協議中,有一條霸王條款:
尤其是第2點:
如果您把用戶內容中的人臉換成您或其他人的臉,您同意或確保肖像項權利人同意授予“ZAO”及其關聯公司全球範圍內完全免費、不可撤銷、永久、可轉授權和可再許可的權利,包括但不限於:人臉照片、圖片、視頻資料等肖像資料中所含的您或肖像權利人的肖像權,以及利用技術對您或肖像權利人的肖像進行形式改動;
啥意思?當你在ZAO上傳照片生成視頻後,這一些列資料包括肖像權,該軟件都有權免費使用,並進行修改編輯。
如今,手機解鎖、購物支付、公共交通、上班打卡等都可以“刷臉”解決,如果自己的“臉”丟了,背後的隱私洩露風險,可想而知。
於是,網友憤怒了:這不是明顯的霸王條款?還想把我的臉丟到全球?
這款陌陌旗下的軟件也迅速給予了迴應:不,我們沒有采集任何個人生物識別特徵,而且合成的圖像不是用戶真實信息。
嘴上說著沒有,但身體還是很誠實的。在迴應的同時,他們順便把用戶協議改了:
很明顯,不可撤銷、永久等字眼已經消失。在這之後,ZAO的熱度也瞬間轉涼。
2、屢換屢涼
換臉這件事上,涼了的不止ZAO一個。
早在2017年,AI換臉就出現了。在深度學習算法的基礎上,一款叫做“Deepfake”的軟件橫空出世,與ZAO的運作原理一樣,將照片AI合成至視頻換臉。
Deepfake 一開始只在小範圍內流行,網友們也只是給明星換換臉,娛樂一下而已。比如下面這個著名的小片段,把楊冪的臉換到了83版射鵰英雄傳的黃蓉臉上:
而推動它迅速火爆起來的,是把明星的臉換到不可描述的小電影上。有時候你得承認,人的本能需求,也是推動技術創新的動力之一。
但技術的進步,不能凌駕於道德至上。AI換臉在成人影片中的擴散,給女明星帶來了陰影。不僅形象版權、名譽都受到傷害,在闢謠的難度上,也增加不少,因為你很難給那些不懂這項技術的人解釋清楚,什麼是AI換臉。
更有甚者,拿著換臉視頻上門敲詐勒索,成了不穩定因素之一。
於是,Deepfake遭遇全球封殺。
今年出現的一款模仿應用Deepnude,俗稱“一鍵脫衣”,推出幾個小時服務器就被擠爆。但因其一面世就帶著作惡的目的,面臨的道德譴責壓力更大,幾天後創始人主動關停了這個項目。
技術的進步,帶來的是隱私保護的難度提升。從指紋識別到人臉識別,甚至以後的眼球識別,人的生物體徵信息,越來越成為關鍵隱私。一旦有信息洩露,對個人的生活都將會帶來全方位的危機。
未來時代,“臉”一點都不能丟!
3、校園監視危機
巧合的是,這幾天還有家公司因為人臉,登上了熱搜。
8月25日,港交所公佈了曠視科技的IPO信息。這家由三個清華大學生創立,以人工智能為標籤的獨角獸公司,成立8年時間裡融資4輪12次,總融資金額達到13.49億美元,估值也達到了40億美元。
曠視科技的主營業務可概括為個人物聯網、城市物聯網和供應鏈物聯網三大類。而其中的個人物聯網業務,就是以人臉識別技術為核心展開的。
曠視旗下的Face++,人臉識別準確度高達97%,已廣泛用於多家智能手機廠商。
而曠視的一則宣傳片,則引起了巨大爭議。
在這則人臉識別運用到班級管理的短片中,攝像頭不僅可以識別學生的姓名、性別等基本信息,還能統計聽講、舉手、睡覺、玩手機等行為的次數,以判斷學生學習的認真程度。
甚至還能通過表情來識別學生情緒,以判斷他們對課程的喜好程度,數據非常精細化。
圖片一出,便引起網友的強烈反對。
太侵犯隱私了!活脫脫的1984……這是學校還是監獄啊?人工智能,科學養豬……喬英子表示瞬間活不下去……
曠視也很快給出了迴應,圖片只是技術場景化概念演示,我們會堅持正當性、數據隱私保護等核心原則。
魔幻的是,這項技術在現實中早已應用。
8月底,媒體稱位於南京的中國藥科大學在兩間教室試點安裝了人臉識別系統,除了能自動識別學生的出勤情況,還能夠實現對學生課堂聽講情況的全程監控。
而設備的供應商,正是曠視科技。
4、技術無罪?
必須承認,AI時代正在到來。語音識別、自動駕駛、機器人等技術,也在慢慢成熟。
作為其中的代表性技術,大眾對人臉識別的接受度也在提升,2017上半年,中國使用過刷臉支付的網民佔比18.7%。
除了日常生活中的刷臉支付、解鎖等,人臉識別在闖紅燈警示等維護公共秩序方面已經有了很好的應用。並且其應用領域,正在不斷擴大。
9月4日,央視財經播出一則消息:15年前,深圳尤國明夫婦的兒子小勇在菜市場走丟。2017年年底,公安機關與騰訊共同開發跨年齡人臉識別技術。通過模型跟數據比對,推測出小勇長大後的幾百張照片,從而推斷出相似度更高的人員名單,最終找到了尤國明夫婦的孩子。
但在草莽的AI時代,一切規則都混沌不清。人臉識別技術的推廣,有著天然的障礙——人們對於隱私的保護,尤其是在這個看臉的時代,“臉”對人來說太重要了。
如何確保技術方不存儲數據?如何確保圖像信息不用於其他場景?如何確保這張“臉”的真實性?如何確保這張臉不被他人利用?
鑽漏洞的例子也數不勝數。
幸虧新聞中的網貸審核員工機靈,發現臉部圖像有異樣並迅速報警,才得以將犯罪嫌疑人抓獲。但假設審核人是機器人怎麼辦?審核員工不細心怎麼辦?
一切都要回到那個被爭辯了無數次的問題,技術究竟是不是中性的?
已經出獄的王欣說,技術永遠無罪,但做事的人可能會犯錯。
ZAO沒覺得有錯,曠視更不會覺得自己有錯,那些學生們更不會覺得有錯,這場網友的憤怒中,到底誰錯了?
或許背後的憤怒是,AI技術的引進,不再把學生當做一個人看,不再當做一個有血有肉,有情緒有感覺的人看。
在人工智能的大數據中,每個人,每個人所提供的信息,都變成了數據節點,散佈在數不清的服務器中。
心理學和傳播學都有個概念,叫做“霍桑效應”,說的是當人們在意識到自己正在被關注或被觀察的時候,會刻意去改變一些行為或是言語表達的反應。
在攝像頭下成長起來的學生,還是那個真實的自己嗎?還是新一批的機器?