"
"
除了5G發展,你也許要看一下邊緣計算的發展

邊緣計算相對於5G都有哪些優勢?

猶記2016年,我在漢諾威參加德國漢諾威消費電子、信息及通信博覽會(CEBIT)時,我發現會上充斥著的那些所謂“智能”的東西並不怎麼“智能”—— 它們的功能幾乎都只是將兩個設備鏈接起來,並且在大多數情況下,僅僅提供單一的用途,用戶效益十分有限。

例如:可以遠程監控、“開、關”的管道閥門、能夠辨別運送司機是否偷運燃料的汽油體積測量裝置、通過wi-fi控制電源插頭。

然而,在CEBIT大會上,真正給我留下深刻印象的是IBM展示的一項研究項目SyNAPSE。這影響了我對未來人工智能發展的看法。SyNAPSE項目旨在開發一種人工智能芯片“TrueNorth”——它能提供相當於螞蟻大腦的計算能力,同時只消耗73兆瓦的能量。不過,這在當時每一個元件需要耗費100萬美元。

這意味著將人工智能與邊緣計算結合起來是可能的。同樣,要不了幾年“摩爾定律”也將會失效。問題只在於多久能夠實現,以及多少其他類似的解決方案會出現在市場上?早在2016年,Neuron soundware已經開始採取物聯網戰略——在網絡邊緣運行人工智能算法——並且決定開發自己的具有錄音和人工智能處理功能的物聯網邊緣設備。

幾個月後,我根據能量消耗和智能計算之間的關係製作了一張圖表。

"
除了5G發展,你也許要看一下邊緣計算的發展

邊緣計算相對於5G都有哪些優勢?

猶記2016年,我在漢諾威參加德國漢諾威消費電子、信息及通信博覽會(CEBIT)時,我發現會上充斥著的那些所謂“智能”的東西並不怎麼“智能”—— 它們的功能幾乎都只是將兩個設備鏈接起來,並且在大多數情況下,僅僅提供單一的用途,用戶效益十分有限。

例如:可以遠程監控、“開、關”的管道閥門、能夠辨別運送司機是否偷運燃料的汽油體積測量裝置、通過wi-fi控制電源插頭。

然而,在CEBIT大會上,真正給我留下深刻印象的是IBM展示的一項研究項目SyNAPSE。這影響了我對未來人工智能發展的看法。SyNAPSE項目旨在開發一種人工智能芯片“TrueNorth”——它能提供相當於螞蟻大腦的計算能力,同時只消耗73兆瓦的能量。不過,這在當時每一個元件需要耗費100萬美元。

這意味著將人工智能與邊緣計算結合起來是可能的。同樣,要不了幾年“摩爾定律”也將會失效。問題只在於多久能夠實現,以及多少其他類似的解決方案會出現在市場上?早在2016年,Neuron soundware已經開始採取物聯網戰略——在網絡邊緣運行人工智能算法——並且決定開發自己的具有錄音和人工智能處理功能的物聯網邊緣設備。

幾個月後,我根據能量消耗和智能計算之間的關係製作了一張圖表。

除了5G發展,你也許要看一下邊緣計算的發展

這顯示了智能與能耗的相關性。

●只有幾毫瓦,不可能以合理的價格達到智能;

●智能手機的能量消耗為幾瓦,並且可以為基本的人工智能提供足夠的計算能力——每隔一秒左右從圖像中識別目標;

●限制領域人工智能(narrow AI),比如駕駛汽車的能力,需要消耗幾十或幾百瓦的電力。

用於分析的攝像機每秒輸入10次左右,大約需要每秒4 萬億次浮點運算。

所以,想要用相同的計算性能來駕駛汽車或按順序分析機器聲音從而檢測潛在的機械故障。完成這兩個工作都需要相當於螞蟻大腦的計算能力。IBM推出的ultra-low-energy-consuming芯片,讓我看到了實現這種能力的可能。

邊緣計算的興起

從那時起,邊緣計算能力一直在提高。

"
除了5G發展,你也許要看一下邊緣計算的發展

邊緣計算相對於5G都有哪些優勢?

猶記2016年,我在漢諾威參加德國漢諾威消費電子、信息及通信博覽會(CEBIT)時,我發現會上充斥著的那些所謂“智能”的東西並不怎麼“智能”—— 它們的功能幾乎都只是將兩個設備鏈接起來,並且在大多數情況下,僅僅提供單一的用途,用戶效益十分有限。

例如:可以遠程監控、“開、關”的管道閥門、能夠辨別運送司機是否偷運燃料的汽油體積測量裝置、通過wi-fi控制電源插頭。

然而,在CEBIT大會上,真正給我留下深刻印象的是IBM展示的一項研究項目SyNAPSE。這影響了我對未來人工智能發展的看法。SyNAPSE項目旨在開發一種人工智能芯片“TrueNorth”——它能提供相當於螞蟻大腦的計算能力,同時只消耗73兆瓦的能量。不過,這在當時每一個元件需要耗費100萬美元。

這意味著將人工智能與邊緣計算結合起來是可能的。同樣,要不了幾年“摩爾定律”也將會失效。問題只在於多久能夠實現,以及多少其他類似的解決方案會出現在市場上?早在2016年,Neuron soundware已經開始採取物聯網戰略——在網絡邊緣運行人工智能算法——並且決定開發自己的具有錄音和人工智能處理功能的物聯網邊緣設備。

幾個月後,我根據能量消耗和智能計算之間的關係製作了一張圖表。

除了5G發展,你也許要看一下邊緣計算的發展

這顯示了智能與能耗的相關性。

●只有幾毫瓦,不可能以合理的價格達到智能;

●智能手機的能量消耗為幾瓦,並且可以為基本的人工智能提供足夠的計算能力——每隔一秒左右從圖像中識別目標;

●限制領域人工智能(narrow AI),比如駕駛汽車的能力,需要消耗幾十或幾百瓦的電力。

用於分析的攝像機每秒輸入10次左右,大約需要每秒4 萬億次浮點運算。

所以,想要用相同的計算性能來駕駛汽車或按順序分析機器聲音從而檢測潛在的機械故障。完成這兩個工作都需要相當於螞蟻大腦的計算能力。IBM推出的ultra-low-energy-consuming芯片,讓我看到了實現這種能力的可能。

邊緣計算的興起

從那時起,邊緣計算能力一直在提高。

除了5G發展,你也許要看一下邊緣計算的發展

2017年,為了擴展低性能的計算設備,Movidius神經計算棒以低於100美元的價格,僅需0.5W的電量便能進行每秒一千億次浮點計算。

2018年,華為推出了麒麟980處理器,在0.1W的電量下可以完成每秒五千億次的浮點計算。其他供應商緊隨其後。谷歌發佈了Edge TPU Units,瑞芯微(Rockchip)公佈了RK3399。這兩個約每秒能夠處理3萬億次浮點計算,成本在100美元左右。

2019年,帶有人工智能技術硬件加速器(特別是神經網絡)的特定微型計算機得到普遍使用。所有關鍵的硬件廠商都陸續發佈了AI軟件棧的邊緣優化版本,這進一步提高了性能。目前,一般使用的AI板有,谷歌的Edge TPU——使用專門的ASIC芯片製作而成用以處理AI的預測推理功能。價格低於100美元的英偉達Jetson Nano 配備了128個英偉達CUDA核心。瑞芯微發佈的 RK3399 Pro——第一個帶有神經網絡處理器的開發板(其性能甚至略優於英偉達Jetson Nano)。

物聯網技術的大幅提高讓我們得以發展nBox——這款邊緣計算設備不僅能夠藉助多達12個通道記錄高質量音頻,並且還可以通過邊緣計算實現人工智能。所謂邊緣計算,是指大多數處理過程將通過本地設備實現而無需交由雲端完成。

"
除了5G發展,你也許要看一下邊緣計算的發展

邊緣計算相對於5G都有哪些優勢?

猶記2016年,我在漢諾威參加德國漢諾威消費電子、信息及通信博覽會(CEBIT)時,我發現會上充斥著的那些所謂“智能”的東西並不怎麼“智能”—— 它們的功能幾乎都只是將兩個設備鏈接起來,並且在大多數情況下,僅僅提供單一的用途,用戶效益十分有限。

例如:可以遠程監控、“開、關”的管道閥門、能夠辨別運送司機是否偷運燃料的汽油體積測量裝置、通過wi-fi控制電源插頭。

然而,在CEBIT大會上,真正給我留下深刻印象的是IBM展示的一項研究項目SyNAPSE。這影響了我對未來人工智能發展的看法。SyNAPSE項目旨在開發一種人工智能芯片“TrueNorth”——它能提供相當於螞蟻大腦的計算能力,同時只消耗73兆瓦的能量。不過,這在當時每一個元件需要耗費100萬美元。

這意味著將人工智能與邊緣計算結合起來是可能的。同樣,要不了幾年“摩爾定律”也將會失效。問題只在於多久能夠實現,以及多少其他類似的解決方案會出現在市場上?早在2016年,Neuron soundware已經開始採取物聯網戰略——在網絡邊緣運行人工智能算法——並且決定開發自己的具有錄音和人工智能處理功能的物聯網邊緣設備。

幾個月後,我根據能量消耗和智能計算之間的關係製作了一張圖表。

除了5G發展,你也許要看一下邊緣計算的發展

這顯示了智能與能耗的相關性。

●只有幾毫瓦,不可能以合理的價格達到智能;

●智能手機的能量消耗為幾瓦,並且可以為基本的人工智能提供足夠的計算能力——每隔一秒左右從圖像中識別目標;

●限制領域人工智能(narrow AI),比如駕駛汽車的能力,需要消耗幾十或幾百瓦的電力。

用於分析的攝像機每秒輸入10次左右,大約需要每秒4 萬億次浮點運算。

所以,想要用相同的計算性能來駕駛汽車或按順序分析機器聲音從而檢測潛在的機械故障。完成這兩個工作都需要相當於螞蟻大腦的計算能力。IBM推出的ultra-low-energy-consuming芯片,讓我看到了實現這種能力的可能。

邊緣計算的興起

從那時起,邊緣計算能力一直在提高。

除了5G發展,你也許要看一下邊緣計算的發展

2017年,為了擴展低性能的計算設備,Movidius神經計算棒以低於100美元的價格,僅需0.5W的電量便能進行每秒一千億次浮點計算。

2018年,華為推出了麒麟980處理器,在0.1W的電量下可以完成每秒五千億次的浮點計算。其他供應商緊隨其後。谷歌發佈了Edge TPU Units,瑞芯微(Rockchip)公佈了RK3399。這兩個約每秒能夠處理3萬億次浮點計算,成本在100美元左右。

2019年,帶有人工智能技術硬件加速器(特別是神經網絡)的特定微型計算機得到普遍使用。所有關鍵的硬件廠商都陸續發佈了AI軟件棧的邊緣優化版本,這進一步提高了性能。目前,一般使用的AI板有,谷歌的Edge TPU——使用專門的ASIC芯片製作而成用以處理AI的預測推理功能。價格低於100美元的英偉達Jetson Nano 配備了128個英偉達CUDA核心。瑞芯微發佈的 RK3399 Pro——第一個帶有神經網絡處理器的開發板(其性能甚至略優於英偉達Jetson Nano)。

物聯網技術的大幅提高讓我們得以發展nBox——這款邊緣計算設備不僅能夠藉助多達12個通道記錄高質量音頻,並且還可以通過邊緣計算實現人工智能。所謂邊緣計算,是指大多數處理過程將通過本地設備實現而無需交由雲端完成。

除了5G發展,你也許要看一下邊緣計算的發展

隨著英特爾(Intel)以約4億美元收購Movidius,以及超過133.8億歐元收購自動汽車芯片製造商Mobileye,邊緣計算的重要性變得顯而易見。

特斯拉汽車公司(Tesla Motors)在網上展示了他們為其自動駕駛汽車特意打造的AI高性能計算機——每秒能夠完成36萬億次浮點計算,這足以每秒處理汽車攝像頭中2000多張高分辨率圖像,特斯拉表示這它的性能完全能夠實現自動駕駛。

邊緣計算四個主要優勢

"
除了5G發展,你也許要看一下邊緣計算的發展

邊緣計算相對於5G都有哪些優勢?

猶記2016年,我在漢諾威參加德國漢諾威消費電子、信息及通信博覽會(CEBIT)時,我發現會上充斥著的那些所謂“智能”的東西並不怎麼“智能”—— 它們的功能幾乎都只是將兩個設備鏈接起來,並且在大多數情況下,僅僅提供單一的用途,用戶效益十分有限。

例如:可以遠程監控、“開、關”的管道閥門、能夠辨別運送司機是否偷運燃料的汽油體積測量裝置、通過wi-fi控制電源插頭。

然而,在CEBIT大會上,真正給我留下深刻印象的是IBM展示的一項研究項目SyNAPSE。這影響了我對未來人工智能發展的看法。SyNAPSE項目旨在開發一種人工智能芯片“TrueNorth”——它能提供相當於螞蟻大腦的計算能力,同時只消耗73兆瓦的能量。不過,這在當時每一個元件需要耗費100萬美元。

這意味著將人工智能與邊緣計算結合起來是可能的。同樣,要不了幾年“摩爾定律”也將會失效。問題只在於多久能夠實現,以及多少其他類似的解決方案會出現在市場上?早在2016年,Neuron soundware已經開始採取物聯網戰略——在網絡邊緣運行人工智能算法——並且決定開發自己的具有錄音和人工智能處理功能的物聯網邊緣設備。

幾個月後,我根據能量消耗和智能計算之間的關係製作了一張圖表。

除了5G發展,你也許要看一下邊緣計算的發展

這顯示了智能與能耗的相關性。

●只有幾毫瓦,不可能以合理的價格達到智能;

●智能手機的能量消耗為幾瓦,並且可以為基本的人工智能提供足夠的計算能力——每隔一秒左右從圖像中識別目標;

●限制領域人工智能(narrow AI),比如駕駛汽車的能力,需要消耗幾十或幾百瓦的電力。

用於分析的攝像機每秒輸入10次左右,大約需要每秒4 萬億次浮點運算。

所以,想要用相同的計算性能來駕駛汽車或按順序分析機器聲音從而檢測潛在的機械故障。完成這兩個工作都需要相當於螞蟻大腦的計算能力。IBM推出的ultra-low-energy-consuming芯片,讓我看到了實現這種能力的可能。

邊緣計算的興起

從那時起,邊緣計算能力一直在提高。

除了5G發展,你也許要看一下邊緣計算的發展

2017年,為了擴展低性能的計算設備,Movidius神經計算棒以低於100美元的價格,僅需0.5W的電量便能進行每秒一千億次浮點計算。

2018年,華為推出了麒麟980處理器,在0.1W的電量下可以完成每秒五千億次的浮點計算。其他供應商緊隨其後。谷歌發佈了Edge TPU Units,瑞芯微(Rockchip)公佈了RK3399。這兩個約每秒能夠處理3萬億次浮點計算,成本在100美元左右。

2019年,帶有人工智能技術硬件加速器(特別是神經網絡)的特定微型計算機得到普遍使用。所有關鍵的硬件廠商都陸續發佈了AI軟件棧的邊緣優化版本,這進一步提高了性能。目前,一般使用的AI板有,谷歌的Edge TPU——使用專門的ASIC芯片製作而成用以處理AI的預測推理功能。價格低於100美元的英偉達Jetson Nano 配備了128個英偉達CUDA核心。瑞芯微發佈的 RK3399 Pro——第一個帶有神經網絡處理器的開發板(其性能甚至略優於英偉達Jetson Nano)。

物聯網技術的大幅提高讓我們得以發展nBox——這款邊緣計算設備不僅能夠藉助多達12個通道記錄高質量音頻,並且還可以通過邊緣計算實現人工智能。所謂邊緣計算,是指大多數處理過程將通過本地設備實現而無需交由雲端完成。

除了5G發展,你也許要看一下邊緣計算的發展

隨著英特爾(Intel)以約4億美元收購Movidius,以及超過133.8億歐元收購自動汽車芯片製造商Mobileye,邊緣計算的重要性變得顯而易見。

特斯拉汽車公司(Tesla Motors)在網上展示了他們為其自動駕駛汽車特意打造的AI高性能計算機——每秒能夠完成36萬億次浮點計算,這足以每秒處理汽車攝像頭中2000多張高分辨率圖像,特斯拉表示這它的性能完全能夠實現自動駕駛。

邊緣計算四個主要優勢

除了5G發展,你也許要看一下邊緣計算的發展

1、安全:所有處理過的數據都可以存儲在本地,並且有嚴格的控制。

2、速度:人工智能推理系統能夠以毫秒為單位處理輸入,這意味著最小的延遲。

3、效益:嵌入式微型計算機功耗低,價格實惠。

4、離線:由於人工智能算法部署位置的特殊性,不需要佔用太多的網絡寬帶。

邊緣計算相對於5G,優勢何在?

也許你會問為什麼這麼多的硬件廠家如此大費周章?為什麼不坐等5G網絡或者利用豐富的雲計算能力和基礎設施?以下是一些答案。

"
除了5G發展,你也許要看一下邊緣計算的發展

邊緣計算相對於5G都有哪些優勢?

猶記2016年,我在漢諾威參加德國漢諾威消費電子、信息及通信博覽會(CEBIT)時,我發現會上充斥著的那些所謂“智能”的東西並不怎麼“智能”—— 它們的功能幾乎都只是將兩個設備鏈接起來,並且在大多數情況下,僅僅提供單一的用途,用戶效益十分有限。

例如:可以遠程監控、“開、關”的管道閥門、能夠辨別運送司機是否偷運燃料的汽油體積測量裝置、通過wi-fi控制電源插頭。

然而,在CEBIT大會上,真正給我留下深刻印象的是IBM展示的一項研究項目SyNAPSE。這影響了我對未來人工智能發展的看法。SyNAPSE項目旨在開發一種人工智能芯片“TrueNorth”——它能提供相當於螞蟻大腦的計算能力,同時只消耗73兆瓦的能量。不過,這在當時每一個元件需要耗費100萬美元。

這意味著將人工智能與邊緣計算結合起來是可能的。同樣,要不了幾年“摩爾定律”也將會失效。問題只在於多久能夠實現,以及多少其他類似的解決方案會出現在市場上?早在2016年,Neuron soundware已經開始採取物聯網戰略——在網絡邊緣運行人工智能算法——並且決定開發自己的具有錄音和人工智能處理功能的物聯網邊緣設備。

幾個月後,我根據能量消耗和智能計算之間的關係製作了一張圖表。

除了5G發展,你也許要看一下邊緣計算的發展

這顯示了智能與能耗的相關性。

●只有幾毫瓦,不可能以合理的價格達到智能;

●智能手機的能量消耗為幾瓦,並且可以為基本的人工智能提供足夠的計算能力——每隔一秒左右從圖像中識別目標;

●限制領域人工智能(narrow AI),比如駕駛汽車的能力,需要消耗幾十或幾百瓦的電力。

用於分析的攝像機每秒輸入10次左右,大約需要每秒4 萬億次浮點運算。

所以,想要用相同的計算性能來駕駛汽車或按順序分析機器聲音從而檢測潛在的機械故障。完成這兩個工作都需要相當於螞蟻大腦的計算能力。IBM推出的ultra-low-energy-consuming芯片,讓我看到了實現這種能力的可能。

邊緣計算的興起

從那時起,邊緣計算能力一直在提高。

除了5G發展,你也許要看一下邊緣計算的發展

2017年,為了擴展低性能的計算設備,Movidius神經計算棒以低於100美元的價格,僅需0.5W的電量便能進行每秒一千億次浮點計算。

2018年,華為推出了麒麟980處理器,在0.1W的電量下可以完成每秒五千億次的浮點計算。其他供應商緊隨其後。谷歌發佈了Edge TPU Units,瑞芯微(Rockchip)公佈了RK3399。這兩個約每秒能夠處理3萬億次浮點計算,成本在100美元左右。

2019年,帶有人工智能技術硬件加速器(特別是神經網絡)的特定微型計算機得到普遍使用。所有關鍵的硬件廠商都陸續發佈了AI軟件棧的邊緣優化版本,這進一步提高了性能。目前,一般使用的AI板有,谷歌的Edge TPU——使用專門的ASIC芯片製作而成用以處理AI的預測推理功能。價格低於100美元的英偉達Jetson Nano 配備了128個英偉達CUDA核心。瑞芯微發佈的 RK3399 Pro——第一個帶有神經網絡處理器的開發板(其性能甚至略優於英偉達Jetson Nano)。

物聯網技術的大幅提高讓我們得以發展nBox——這款邊緣計算設備不僅能夠藉助多達12個通道記錄高質量音頻,並且還可以通過邊緣計算實現人工智能。所謂邊緣計算,是指大多數處理過程將通過本地設備實現而無需交由雲端完成。

除了5G發展,你也許要看一下邊緣計算的發展

隨著英特爾(Intel)以約4億美元收購Movidius,以及超過133.8億歐元收購自動汽車芯片製造商Mobileye,邊緣計算的重要性變得顯而易見。

特斯拉汽車公司(Tesla Motors)在網上展示了他們為其自動駕駛汽車特意打造的AI高性能計算機——每秒能夠完成36萬億次浮點計算,這足以每秒處理汽車攝像頭中2000多張高分辨率圖像,特斯拉表示這它的性能完全能夠實現自動駕駛。

邊緣計算四個主要優勢

除了5G發展,你也許要看一下邊緣計算的發展

1、安全:所有處理過的數據都可以存儲在本地,並且有嚴格的控制。

2、速度:人工智能推理系統能夠以毫秒為單位處理輸入,這意味著最小的延遲。

3、效益:嵌入式微型計算機功耗低,價格實惠。

4、離線:由於人工智能算法部署位置的特殊性,不需要佔用太多的網絡寬帶。

邊緣計算相對於5G,優勢何在?

也許你會問為什麼這麼多的硬件廠家如此大費周章?為什麼不坐等5G網絡或者利用豐富的雲計算能力和基礎設施?以下是一些答案。

除了5G發展,你也許要看一下邊緣計算的發展

●想象一下,你正坐在一輛自動駕駛汽車裡,汽車突然斷開了5G網絡。這時,汽車不僅會“失明”,而且會喪失決策能力。當高帶寬和低延遲通信所需的計算能力實際上與一個額外的神經處理單元的成本相同時,為什麼要冒這個風險呢?此外,它的總體耗能還會比利用特定硬件實現人工智能預測來的要高。

●移動互聯網提供商希望將投資套現用於開發和部署5G網絡。儘管在技術上可能實現無限制大容量數據計劃,但它們並不會很快投入商業使用。例如,nBox有12個聲學傳感器,每個月可以產生多達1 TB的音頻數據。按照LTE目前每GB的價格,將這麼多數據傳輸到雲計算將花費一大筆錢。

●網絡覆蓋將主要建立在城市,這意味著其他很多地方接受不到5G信號。與此相反,邊緣計算設備可以隨即部署到任何需要的地方,只需要一次性的成本投入,並且這通常不會顯著增加物聯網解決方案的成本。

邊緣計算與人工智能相結合使得在本地處理大量數據成為可能。硬件加速器的額外成本其實微不足道。另外,神經網絡的計算性能正以每年10倍左右的速度提高,並且,由於數據可以並行處理,這一趨勢似乎沒有放緩。

"
除了5G發展,你也許要看一下邊緣計算的發展

邊緣計算相對於5G都有哪些優勢?

猶記2016年,我在漢諾威參加德國漢諾威消費電子、信息及通信博覽會(CEBIT)時,我發現會上充斥著的那些所謂“智能”的東西並不怎麼“智能”—— 它們的功能幾乎都只是將兩個設備鏈接起來,並且在大多數情況下,僅僅提供單一的用途,用戶效益十分有限。

例如:可以遠程監控、“開、關”的管道閥門、能夠辨別運送司機是否偷運燃料的汽油體積測量裝置、通過wi-fi控制電源插頭。

然而,在CEBIT大會上,真正給我留下深刻印象的是IBM展示的一項研究項目SyNAPSE。這影響了我對未來人工智能發展的看法。SyNAPSE項目旨在開發一種人工智能芯片“TrueNorth”——它能提供相當於螞蟻大腦的計算能力,同時只消耗73兆瓦的能量。不過,這在當時每一個元件需要耗費100萬美元。

這意味著將人工智能與邊緣計算結合起來是可能的。同樣,要不了幾年“摩爾定律”也將會失效。問題只在於多久能夠實現,以及多少其他類似的解決方案會出現在市場上?早在2016年,Neuron soundware已經開始採取物聯網戰略——在網絡邊緣運行人工智能算法——並且決定開發自己的具有錄音和人工智能處理功能的物聯網邊緣設備。

幾個月後,我根據能量消耗和智能計算之間的關係製作了一張圖表。

除了5G發展,你也許要看一下邊緣計算的發展

這顯示了智能與能耗的相關性。

●只有幾毫瓦,不可能以合理的價格達到智能;

●智能手機的能量消耗為幾瓦,並且可以為基本的人工智能提供足夠的計算能力——每隔一秒左右從圖像中識別目標;

●限制領域人工智能(narrow AI),比如駕駛汽車的能力,需要消耗幾十或幾百瓦的電力。

用於分析的攝像機每秒輸入10次左右,大約需要每秒4 萬億次浮點運算。

所以,想要用相同的計算性能來駕駛汽車或按順序分析機器聲音從而檢測潛在的機械故障。完成這兩個工作都需要相當於螞蟻大腦的計算能力。IBM推出的ultra-low-energy-consuming芯片,讓我看到了實現這種能力的可能。

邊緣計算的興起

從那時起,邊緣計算能力一直在提高。

除了5G發展,你也許要看一下邊緣計算的發展

2017年,為了擴展低性能的計算設備,Movidius神經計算棒以低於100美元的價格,僅需0.5W的電量便能進行每秒一千億次浮點計算。

2018年,華為推出了麒麟980處理器,在0.1W的電量下可以完成每秒五千億次的浮點計算。其他供應商緊隨其後。谷歌發佈了Edge TPU Units,瑞芯微(Rockchip)公佈了RK3399。這兩個約每秒能夠處理3萬億次浮點計算,成本在100美元左右。

2019年,帶有人工智能技術硬件加速器(特別是神經網絡)的特定微型計算機得到普遍使用。所有關鍵的硬件廠商都陸續發佈了AI軟件棧的邊緣優化版本,這進一步提高了性能。目前,一般使用的AI板有,谷歌的Edge TPU——使用專門的ASIC芯片製作而成用以處理AI的預測推理功能。價格低於100美元的英偉達Jetson Nano 配備了128個英偉達CUDA核心。瑞芯微發佈的 RK3399 Pro——第一個帶有神經網絡處理器的開發板(其性能甚至略優於英偉達Jetson Nano)。

物聯網技術的大幅提高讓我們得以發展nBox——這款邊緣計算設備不僅能夠藉助多達12個通道記錄高質量音頻,並且還可以通過邊緣計算實現人工智能。所謂邊緣計算,是指大多數處理過程將通過本地設備實現而無需交由雲端完成。

除了5G發展,你也許要看一下邊緣計算的發展

隨著英特爾(Intel)以約4億美元收購Movidius,以及超過133.8億歐元收購自動汽車芯片製造商Mobileye,邊緣計算的重要性變得顯而易見。

特斯拉汽車公司(Tesla Motors)在網上展示了他們為其自動駕駛汽車特意打造的AI高性能計算機——每秒能夠完成36萬億次浮點計算,這足以每秒處理汽車攝像頭中2000多張高分辨率圖像,特斯拉表示這它的性能完全能夠實現自動駕駛。

邊緣計算四個主要優勢

除了5G發展,你也許要看一下邊緣計算的發展

1、安全:所有處理過的數據都可以存儲在本地,並且有嚴格的控制。

2、速度:人工智能推理系統能夠以毫秒為單位處理輸入,這意味著最小的延遲。

3、效益:嵌入式微型計算機功耗低,價格實惠。

4、離線:由於人工智能算法部署位置的特殊性,不需要佔用太多的網絡寬帶。

邊緣計算相對於5G,優勢何在?

也許你會問為什麼這麼多的硬件廠家如此大費周章?為什麼不坐等5G網絡或者利用豐富的雲計算能力和基礎設施?以下是一些答案。

除了5G發展,你也許要看一下邊緣計算的發展

●想象一下,你正坐在一輛自動駕駛汽車裡,汽車突然斷開了5G網絡。這時,汽車不僅會“失明”,而且會喪失決策能力。當高帶寬和低延遲通信所需的計算能力實際上與一個額外的神經處理單元的成本相同時,為什麼要冒這個風險呢?此外,它的總體耗能還會比利用特定硬件實現人工智能預測來的要高。

●移動互聯網提供商希望將投資套現用於開發和部署5G網絡。儘管在技術上可能實現無限制大容量數據計劃,但它們並不會很快投入商業使用。例如,nBox有12個聲學傳感器,每個月可以產生多達1 TB的音頻數據。按照LTE目前每GB的價格,將這麼多數據傳輸到雲計算將花費一大筆錢。

●網絡覆蓋將主要建立在城市,這意味著其他很多地方接受不到5G信號。與此相反,邊緣計算設備可以隨即部署到任何需要的地方,只需要一次性的成本投入,並且這通常不會顯著增加物聯網解決方案的成本。

邊緣計算與人工智能相結合使得在本地處理大量數據成為可能。硬件加速器的額外成本其實微不足道。另外,神經網絡的計算性能正以每年10倍左右的速度提高,並且,由於數據可以並行處理,這一趨勢似乎沒有放緩。

除了5G發展,你也許要看一下邊緣計算的發展

未來“觸手可及”

邊緣計算在自動駕駛汽車、人臉識別、預見性維護等方面的應用只是一個開始。我們很快就會有足夠的計算能力來製造出真正獨立運行的機器。它們將能夠安全地在城市,工廠裡運行,甚至像人類一樣勝任它們的工作。令人難以置信的是,捷克作家Karel Čapek早在一個世紀前就預見了這一點。到2020年,其科幻作品中出現的“機器人”一詞已經是100年前的事情了。

他對“類人機器人”的設想很快傳遍了全世界。在這部科幻小說中,機器人擁有自我意識,並且能夠獲得類似於“愛”的感情。縱觀計算機性能提高的速度以及其他物聯網的迅猛發展,我認為Karel Čapek設想的實現將比我們預期的還要快。

"
除了5G發展,你也許要看一下邊緣計算的發展

邊緣計算相對於5G都有哪些優勢?

猶記2016年,我在漢諾威參加德國漢諾威消費電子、信息及通信博覽會(CEBIT)時,我發現會上充斥著的那些所謂“智能”的東西並不怎麼“智能”—— 它們的功能幾乎都只是將兩個設備鏈接起來,並且在大多數情況下,僅僅提供單一的用途,用戶效益十分有限。

例如:可以遠程監控、“開、關”的管道閥門、能夠辨別運送司機是否偷運燃料的汽油體積測量裝置、通過wi-fi控制電源插頭。

然而,在CEBIT大會上,真正給我留下深刻印象的是IBM展示的一項研究項目SyNAPSE。這影響了我對未來人工智能發展的看法。SyNAPSE項目旨在開發一種人工智能芯片“TrueNorth”——它能提供相當於螞蟻大腦的計算能力,同時只消耗73兆瓦的能量。不過,這在當時每一個元件需要耗費100萬美元。

這意味著將人工智能與邊緣計算結合起來是可能的。同樣,要不了幾年“摩爾定律”也將會失效。問題只在於多久能夠實現,以及多少其他類似的解決方案會出現在市場上?早在2016年,Neuron soundware已經開始採取物聯網戰略——在網絡邊緣運行人工智能算法——並且決定開發自己的具有錄音和人工智能處理功能的物聯網邊緣設備。

幾個月後,我根據能量消耗和智能計算之間的關係製作了一張圖表。

除了5G發展,你也許要看一下邊緣計算的發展

這顯示了智能與能耗的相關性。

●只有幾毫瓦,不可能以合理的價格達到智能;

●智能手機的能量消耗為幾瓦,並且可以為基本的人工智能提供足夠的計算能力——每隔一秒左右從圖像中識別目標;

●限制領域人工智能(narrow AI),比如駕駛汽車的能力,需要消耗幾十或幾百瓦的電力。

用於分析的攝像機每秒輸入10次左右,大約需要每秒4 萬億次浮點運算。

所以,想要用相同的計算性能來駕駛汽車或按順序分析機器聲音從而檢測潛在的機械故障。完成這兩個工作都需要相當於螞蟻大腦的計算能力。IBM推出的ultra-low-energy-consuming芯片,讓我看到了實現這種能力的可能。

邊緣計算的興起

從那時起,邊緣計算能力一直在提高。

除了5G發展,你也許要看一下邊緣計算的發展

2017年,為了擴展低性能的計算設備,Movidius神經計算棒以低於100美元的價格,僅需0.5W的電量便能進行每秒一千億次浮點計算。

2018年,華為推出了麒麟980處理器,在0.1W的電量下可以完成每秒五千億次的浮點計算。其他供應商緊隨其後。谷歌發佈了Edge TPU Units,瑞芯微(Rockchip)公佈了RK3399。這兩個約每秒能夠處理3萬億次浮點計算,成本在100美元左右。

2019年,帶有人工智能技術硬件加速器(特別是神經網絡)的特定微型計算機得到普遍使用。所有關鍵的硬件廠商都陸續發佈了AI軟件棧的邊緣優化版本,這進一步提高了性能。目前,一般使用的AI板有,谷歌的Edge TPU——使用專門的ASIC芯片製作而成用以處理AI的預測推理功能。價格低於100美元的英偉達Jetson Nano 配備了128個英偉達CUDA核心。瑞芯微發佈的 RK3399 Pro——第一個帶有神經網絡處理器的開發板(其性能甚至略優於英偉達Jetson Nano)。

物聯網技術的大幅提高讓我們得以發展nBox——這款邊緣計算設備不僅能夠藉助多達12個通道記錄高質量音頻,並且還可以通過邊緣計算實現人工智能。所謂邊緣計算,是指大多數處理過程將通過本地設備實現而無需交由雲端完成。

除了5G發展,你也許要看一下邊緣計算的發展

隨著英特爾(Intel)以約4億美元收購Movidius,以及超過133.8億歐元收購自動汽車芯片製造商Mobileye,邊緣計算的重要性變得顯而易見。

特斯拉汽車公司(Tesla Motors)在網上展示了他們為其自動駕駛汽車特意打造的AI高性能計算機——每秒能夠完成36萬億次浮點計算,這足以每秒處理汽車攝像頭中2000多張高分辨率圖像,特斯拉表示這它的性能完全能夠實現自動駕駛。

邊緣計算四個主要優勢

除了5G發展,你也許要看一下邊緣計算的發展

1、安全:所有處理過的數據都可以存儲在本地,並且有嚴格的控制。

2、速度:人工智能推理系統能夠以毫秒為單位處理輸入,這意味著最小的延遲。

3、效益:嵌入式微型計算機功耗低,價格實惠。

4、離線:由於人工智能算法部署位置的特殊性,不需要佔用太多的網絡寬帶。

邊緣計算相對於5G,優勢何在?

也許你會問為什麼這麼多的硬件廠家如此大費周章?為什麼不坐等5G網絡或者利用豐富的雲計算能力和基礎設施?以下是一些答案。

除了5G發展,你也許要看一下邊緣計算的發展

●想象一下,你正坐在一輛自動駕駛汽車裡,汽車突然斷開了5G網絡。這時,汽車不僅會“失明”,而且會喪失決策能力。當高帶寬和低延遲通信所需的計算能力實際上與一個額外的神經處理單元的成本相同時,為什麼要冒這個風險呢?此外,它的總體耗能還會比利用特定硬件實現人工智能預測來的要高。

●移動互聯網提供商希望將投資套現用於開發和部署5G網絡。儘管在技術上可能實現無限制大容量數據計劃,但它們並不會很快投入商業使用。例如,nBox有12個聲學傳感器,每個月可以產生多達1 TB的音頻數據。按照LTE目前每GB的價格,將這麼多數據傳輸到雲計算將花費一大筆錢。

●網絡覆蓋將主要建立在城市,這意味著其他很多地方接受不到5G信號。與此相反,邊緣計算設備可以隨即部署到任何需要的地方,只需要一次性的成本投入,並且這通常不會顯著增加物聯網解決方案的成本。

邊緣計算與人工智能相結合使得在本地處理大量數據成為可能。硬件加速器的額外成本其實微不足道。另外,神經網絡的計算性能正以每年10倍左右的速度提高,並且,由於數據可以並行處理,這一趨勢似乎沒有放緩。

除了5G發展,你也許要看一下邊緣計算的發展

未來“觸手可及”

邊緣計算在自動駕駛汽車、人臉識別、預見性維護等方面的應用只是一個開始。我們很快就會有足夠的計算能力來製造出真正獨立運行的機器。它們將能夠安全地在城市,工廠裡運行,甚至像人類一樣勝任它們的工作。令人難以置信的是,捷克作家Karel Čapek早在一個世紀前就預見了這一點。到2020年,其科幻作品中出現的“機器人”一詞已經是100年前的事情了。

他對“類人機器人”的設想很快傳遍了全世界。在這部科幻小說中,機器人擁有自我意識,並且能夠獲得類似於“愛”的感情。縱觀計算機性能提高的速度以及其他物聯網的迅猛發展,我認為Karel Čapek設想的實現將比我們預期的還要快。

除了5G發展,你也許要看一下邊緣計算的發展

本篇文章由TechSugar 編輯部翻譯自medium

文︱Pavel Konecny

"

相關推薦

推薦中...