英偉達首款邊緣計算AI平臺EGX重磅發佈!實時處理,高性能可擴展

【新智元導讀】英偉達最新發布首款面向邊緣設備的AI平臺Nvidia EGX,將 AI 帶到了網絡的邊緣。該平臺可以實時感知、理解和處理數據,而無需先將數據發送到雲端或數據中心。

在今天台北電腦展 COMPUTEX 2019上,英偉達帶來了一項重大發布:推出首款面向邊緣設備的AI平臺Nvidia EGX

此外,發佈會還公佈了另幾項好消息,包括將最先進的 RTX GPU 帶到了筆記本電腦上,免費提供帶有實時光線追蹤的體驗版遊戲等。

英偉達首款邊緣計算AI平臺EGX重磅發佈!實時處理,高性能可擴展

新的 Nvidia EGX 平臺,將 AI 帶到了網絡的邊緣。該平臺可以實時感知、理解和處理數據,而無需先將數據發送到雲端或數據中心

將 AI 應用到智能手機、傳感器和工廠機器等邊緣設備上,是 AI 技術發展的下一步。最早的 AI 算法非常複雜,只能在運行在雲端數據中心的強大機器上處理,這意味著要通過網絡發送大量信息。但這是不可取的,因為這樣做需要大量帶寬,並且會導致更高的延遲,使得 “實時” 非常難。

“在 [物聯網] 傳感器的增長推動下,計算行業發生了巨大的變化,” 英偉達企業與邊緣計算高級主管 Justin Boitano 在新聞發佈會上表示。“有用於觀察世界的攝像頭,用於聆聽世界的麥克風,還有一些設備可以讓機器探測到現實世界正在發生什麼。”

這些都意味著需要分析的原始數據量正在呈指數增長。

“我們很快就會到達一個交叉點,在這個交叉點,邊緣的計算能力比數據中心更強,”Boitano 說。

企業真正想要的是讓 AI 在數據產生的地方執行,無論是在製造設施、零售店還是倉庫。領先的科技公司一直試圖解決的問題,包括最近英特爾也推出了其首款面向邊緣計算的10 納米 “Ice Lake” 芯片,此外,許多初創公司也推出了這類芯片。

但英偉達進軍 AI 領域的舉動引人注目,因為英偉達的 GPU 被廣泛認為是最好的 AI 處理硬件之一。其中包括用於深度學習的 Tesla V100,以及能夠實時進行光線追蹤的Quadro GV100。

英偉達邊緣AI平臺三大特性

新的 NVIDIA EGX 平臺專為邊緣新型的高吞吐量 AI 應用而設計,其中數據來源可實現即時或保證響應時間,同時減少雲帶寬。

EGX 平臺是可擴展的。可以從基於 Jetson Nano 處理器的輕型服務器擴展到基於 NVIDIA T4 的邊緣服務器的微型數據中心,前者每秒可執行 0.5 萬億次操作,僅需幾瓦特;後者每秒可執行 10,000 萬億次操作。芯片的節能能力對 AI 來說非常重要,因為傳統硬件在運行這類任務時耗電量巨大。

Justin Boitano 表示,到 2025 年,全球將有約 1500 億臺機器傳感器和 “物聯網” 設備,因此對 NGX 這樣的平臺的需求將是巨大的。他說,其中許多傳感器將用於 “智能城市” 等項目,並將輸出需要在現場處理的數據,原因包括需要更低的延遲、實時響應、數據主權規則或隱私方面的擔憂。

“無論是視覺方面還是在語言方面上,AI 確實是所有行業的殺手級應用,”Boitano 說。

如果人們真的想要充分利用這些芯片,那麼合作關係也很重要。出於這個原因,Nvidia正在將運行在 EGX 上的 Nvidia Edge Stack 軟件與 Red Hat 公司的 OpenShift Kubernetes 容器編排平臺相整合,以使其與現代軟件應用程序兼容。

該平臺還集成了來自 Mellanox technologies Ltd. 的安全、存儲和網絡技術。英偉達計劃在年底前以 69 億美元的價格收購這家公司。

英偉達首款邊緣計算AI平臺EGX重磅發佈!實時處理,高性能可擴展

總結而言,NVIDIA EGX 具有以下特性:

高性能和可擴展

EGX 從小型的 NVIDIA®Jetson Nano™開始,幾瓦的功率就可以提供每秒 0.5 萬億次(TOPS) 的處理操作,用於圖像識別等任務。此外,EGX 可擴展到所有的 NVIDIA T4 服務器,提供超過 10,000 TOPS,可以為數百名用戶提供實時語音識別和其他複雜的 AI體驗。

混合雲和多雲物聯網

NVIDIA EGX 在架構上與主要雲提供的 NVIDIA AI 計算兼容。在雲上開發的 AI 應用可以運行在 NVIDIA EGX 上,反之亦然。NVIDIA Edge Stack 連接主要的雲物聯網服務,客戶可以通過 AWS IoT Greengrass 和微軟的 Azure IoT Edge 遠程管理他們的服務。

企業級和安全性

NVIDIA Edge Stack 在領先的企業級 Kubernetes 容器編排平臺 Red Hat OpenShift 上進行了優化。Mellanox Smart NIC 可以卸載和加速軟件定義的網絡,從而在不影響CPU 性能的情況下實現更高級別的隔離和安全性。

Mellanox 的首席技術官 Michael Kagan 說:“Mellanox Smart NIC 和交換機為從邊緣到超大規模數據中心的數據訪問提供了理想的 I/O 連接。”

NGX 還與運行在主要雲基礎設施服務 (如 AWS 和 Microsoft Azure) 上的 AI 應用程序兼容,並可以連接到物聯網服務,如 AWS Greengrass 和 Azure IoT Edge 等。

筆記本電腦也可以用英偉達最先進的專業級GPU

作為 Computex 2019 新聞發佈會的一部分,英偉達宣佈了全新的 “筆記本電腦品牌認證推廣計劃”,即 Nvidia RTX Studio

英偉達首款邊緣計算AI平臺EGX重磅發佈!實時處理,高性能可擴展

首款支持的是 Quadro RTX 5000,與臺式機版本相同,有 3072 顆 CUDA 核心、48 顆RT 核心、384 顆 Tensor 核心和 16GB GDDR6 RAM,專為那些從事大量圖形或視頻工作的專業人士而設計。

首批共有 7 家合作伙伴公司 (華碩,戴爾,惠普,微星,雷蛇,技嘉和宏碁) 的一共 17 款筆記本電腦由,這些筆記本電腦將搭載新的 Quadro GPU,都以 “RTX Studio” 的名稱命名。

用英偉達 GeForce 軟件與技術總經理 Jason Paul 的話說,這些筆記本將能夠 “隨時隨地” 提供 “桌面級性能”。英偉達還宣稱這些筆記本的運行速度比同等級的 MacBook Pro 快 7 倍,配備 32GB RAM 和 AMD 的 Pro Vega 20 GPU。

One More Thing:快來玩帶光線追蹤的《雷神之錘 2》

在今年 GDC 上,英偉達展示了實時光線追蹤加強版的《雷神之錘 2》demo,新技術加持後的老遊戲魅力大放異彩,收穫了非常多的關注。

英偉達首款邊緣計算AI平臺EGX重磅發佈!實時處理,高性能可擴展

今天在 Computex 上,英偉達宣佈將從 6 月 6 日起免費向玩家提供《雷神之錘 2 RTX》的體驗版本,大家可以親身體驗堪稱遊戲革命的實時光線追蹤技術了!

據介紹,這個體驗版總共只有三關,之後可以通過 NVIDIA 官網或 Steam 下載。NVIDIA 內部的 Lightspeed Studios 為遊戲加入了更真實的光影效果,比如即時光線、間接照明、水面反光等視覺元素在作品中都可以找到。

相關推薦

推薦中...