'英特爾的六脈神劍,在最“軟”的一環放大招了'

""英特爾的六脈神劍,在最“軟”的一環放大招了

今年年初,英特爾在先進技術方面強調了六大支柱,包括製程和封裝、架構、內存和存儲、互連、安全、軟件。在這六脈神劍中,軟件的重要性愈加突出,特別是在幫助開發者群體面向未來的軟硬件方面,英特爾開發了一款軟件工具oneAPI,將於今年第四季度推出。

據英特爾架構、圖形與軟件部副總裁兼計算性能與開發者產品部門總經理William (Bill) Savage介紹,oneAPI始於硬件架構,是底層開發工具。在當今的數據中心裡面,架構不只侷限於CPU,還有GPU、FPGA以及專用的AI芯片。這些分別對應著標量(Scalar)、矢量(Vector)、矩陣(Matrix)和空間(Spatial)的不同計算架構,我們稱之為SVMS架構。

"英特爾的六脈神劍,在最“軟”的一環放大招了

今年年初,英特爾在先進技術方面強調了六大支柱,包括製程和封裝、架構、內存和存儲、互連、安全、軟件。在這六脈神劍中,軟件的重要性愈加突出,特別是在幫助開發者群體面向未來的軟硬件方面,英特爾開發了一款軟件工具oneAPI,將於今年第四季度推出。

據英特爾架構、圖形與軟件部副總裁兼計算性能與開發者產品部門總經理William (Bill) Savage介紹,oneAPI始於硬件架構,是底層開發工具。在當今的數據中心裡面,架構不只侷限於CPU,還有GPU、FPGA以及專用的AI芯片。這些分別對應著標量(Scalar)、矢量(Vector)、矩陣(Matrix)和空間(Spatial)的不同計算架構,我們稱之為SVMS架構。

英特爾的六脈神劍,在最“軟”的一環放大招了

圖:英特爾架構、圖形與軟件部副總裁兼計算性能與開發者產品部門總經理William (Bill) Savage

oneAPI是一種統一的軟件架構,它能夠跨不同的架構和廠商,包括除英特爾之外的其他硬件廠商。oneAPI可以在軟件層面簡化和統一標量、矢量、矩陣和空間的不同硬件架構。

oneAPI主要包含兩部分,第一是跨架構的編程語言,很多不同的架構以及廠商都可以使用,第二、能夠滿足不同領域需求的跨架構庫的集合。無論是高級編程語言,還是架構庫。

oneAPI是開放的,同時,它有實施參考,以便其他實施者根據參考來進行實施。除此之外,跨架構庫也是一種開放的標準和規範,其他廠商也可以應用。所以,oneAPI是一套開放的行業規範,它鼓勵行業以及社區的支持。對於軟件開發者來講,oneAPI的好處是使他們能夠跨不同架構和不同廠商去使用源代碼,以及各種庫代碼。鼓勵他們更多地重複利用代碼,以降低開發成本。因此,oneAPI為大家提供除了英偉達CUDA之外的另一種選項。

oneAPI是基於英特爾至強系列處理器的,它是在單一架構基礎上演變而來的,可以支持多架構。同時,英特爾對於多種不同架構有很多經驗,對oneAPI有很好的支持作用。首先,在CPU的創新方面擁有大量的經驗。另外,還有來自於英特爾收購的Altera,可提供FPGA,以及Nervana的AI處理器。

行業中的軟件非常多,軟件開發者也特別多,有數百萬的開發者在最上層創造非常多的應用,這些應用開發者所使用的大量中間件以及框架來自數萬的中間件開發者。oneAPI的編程語言與庫的使用是在中間件和框架以下的底層,是最接近硬件的這一層,它會對整個軟件堆棧產生更大的影響。

"英特爾的六脈神劍,在最“軟”的一環放大招了

今年年初,英特爾在先進技術方面強調了六大支柱,包括製程和封裝、架構、內存和存儲、互連、安全、軟件。在這六脈神劍中,軟件的重要性愈加突出,特別是在幫助開發者群體面向未來的軟硬件方面,英特爾開發了一款軟件工具oneAPI,將於今年第四季度推出。

據英特爾架構、圖形與軟件部副總裁兼計算性能與開發者產品部門總經理William (Bill) Savage介紹,oneAPI始於硬件架構,是底層開發工具。在當今的數據中心裡面,架構不只侷限於CPU,還有GPU、FPGA以及專用的AI芯片。這些分別對應著標量(Scalar)、矢量(Vector)、矩陣(Matrix)和空間(Spatial)的不同計算架構,我們稱之為SVMS架構。

英特爾的六脈神劍,在最“軟”的一環放大招了

圖:英特爾架構、圖形與軟件部副總裁兼計算性能與開發者產品部門總經理William (Bill) Savage

oneAPI是一種統一的軟件架構,它能夠跨不同的架構和廠商,包括除英特爾之外的其他硬件廠商。oneAPI可以在軟件層面簡化和統一標量、矢量、矩陣和空間的不同硬件架構。

oneAPI主要包含兩部分,第一是跨架構的編程語言,很多不同的架構以及廠商都可以使用,第二、能夠滿足不同領域需求的跨架構庫的集合。無論是高級編程語言,還是架構庫。

oneAPI是開放的,同時,它有實施參考,以便其他實施者根據參考來進行實施。除此之外,跨架構庫也是一種開放的標準和規範,其他廠商也可以應用。所以,oneAPI是一套開放的行業規範,它鼓勵行業以及社區的支持。對於軟件開發者來講,oneAPI的好處是使他們能夠跨不同架構和不同廠商去使用源代碼,以及各種庫代碼。鼓勵他們更多地重複利用代碼,以降低開發成本。因此,oneAPI為大家提供除了英偉達CUDA之外的另一種選項。

oneAPI是基於英特爾至強系列處理器的,它是在單一架構基礎上演變而來的,可以支持多架構。同時,英特爾對於多種不同架構有很多經驗,對oneAPI有很好的支持作用。首先,在CPU的創新方面擁有大量的經驗。另外,還有來自於英特爾收購的Altera,可提供FPGA,以及Nervana的AI處理器。

行業中的軟件非常多,軟件開發者也特別多,有數百萬的開發者在最上層創造非常多的應用,這些應用開發者所使用的大量中間件以及框架來自數萬的中間件開發者。oneAPI的編程語言與庫的使用是在中間件和框架以下的底層,是最接近硬件的這一層,它會對整個軟件堆棧產生更大的影響。

英特爾的六脈神劍,在最“軟”的一環放大招了

新的編程語言DPC++

為了讓oneAPI更加易用,英特爾正在開發一種新的編程語言Data Parallel C++(DPC++)。

數據中心有大量的多元化硬件架構,如果你希望在這樣一個多元化的不同架構當中進行編程,需要多種不同工具以及不同語言,這就意味著在軟件開發過程中需要多支團隊,他們各自要去學習很多不同專業的技能,這顯然不是一種最高效的軟件開發方式。

英特爾架構、圖形與軟件部副總裁兼編譯器與語言部門總經理Alice Chan表示,我們希望改變這種現狀,並不僅僅是為了英特爾自己的硬件去改變,而是為全行業去改變。

"英特爾的六脈神劍,在最“軟”的一環放大招了

今年年初,英特爾在先進技術方面強調了六大支柱,包括製程和封裝、架構、內存和存儲、互連、安全、軟件。在這六脈神劍中,軟件的重要性愈加突出,特別是在幫助開發者群體面向未來的軟硬件方面,英特爾開發了一款軟件工具oneAPI,將於今年第四季度推出。

據英特爾架構、圖形與軟件部副總裁兼計算性能與開發者產品部門總經理William (Bill) Savage介紹,oneAPI始於硬件架構,是底層開發工具。在當今的數據中心裡面,架構不只侷限於CPU,還有GPU、FPGA以及專用的AI芯片。這些分別對應著標量(Scalar)、矢量(Vector)、矩陣(Matrix)和空間(Spatial)的不同計算架構,我們稱之為SVMS架構。

英特爾的六脈神劍,在最“軟”的一環放大招了

圖:英特爾架構、圖形與軟件部副總裁兼計算性能與開發者產品部門總經理William (Bill) Savage

oneAPI是一種統一的軟件架構,它能夠跨不同的架構和廠商,包括除英特爾之外的其他硬件廠商。oneAPI可以在軟件層面簡化和統一標量、矢量、矩陣和空間的不同硬件架構。

oneAPI主要包含兩部分,第一是跨架構的編程語言,很多不同的架構以及廠商都可以使用,第二、能夠滿足不同領域需求的跨架構庫的集合。無論是高級編程語言,還是架構庫。

oneAPI是開放的,同時,它有實施參考,以便其他實施者根據參考來進行實施。除此之外,跨架構庫也是一種開放的標準和規範,其他廠商也可以應用。所以,oneAPI是一套開放的行業規範,它鼓勵行業以及社區的支持。對於軟件開發者來講,oneAPI的好處是使他們能夠跨不同架構和不同廠商去使用源代碼,以及各種庫代碼。鼓勵他們更多地重複利用代碼,以降低開發成本。因此,oneAPI為大家提供除了英偉達CUDA之外的另一種選項。

oneAPI是基於英特爾至強系列處理器的,它是在單一架構基礎上演變而來的,可以支持多架構。同時,英特爾對於多種不同架構有很多經驗,對oneAPI有很好的支持作用。首先,在CPU的創新方面擁有大量的經驗。另外,還有來自於英特爾收購的Altera,可提供FPGA,以及Nervana的AI處理器。

行業中的軟件非常多,軟件開發者也特別多,有數百萬的開發者在最上層創造非常多的應用,這些應用開發者所使用的大量中間件以及框架來自數萬的中間件開發者。oneAPI的編程語言與庫的使用是在中間件和框架以下的底層,是最接近硬件的這一層,它會對整個軟件堆棧產生更大的影響。

英特爾的六脈神劍,在最“軟”的一環放大招了

新的編程語言DPC++

為了讓oneAPI更加易用,英特爾正在開發一種新的編程語言Data Parallel C++(DPC++)。

數據中心有大量的多元化硬件架構,如果你希望在這樣一個多元化的不同架構當中進行編程,需要多種不同工具以及不同語言,這就意味著在軟件開發過程中需要多支團隊,他們各自要去學習很多不同專業的技能,這顯然不是一種最高效的軟件開發方式。

英特爾架構、圖形與軟件部副總裁兼編譯器與語言部門總經理Alice Chan表示,我們希望改變這種現狀,並不僅僅是為了英特爾自己的硬件去改變,而是為全行業去改變。

英特爾的六脈神劍,在最“軟”的一環放大招了

圖:英特爾架構、圖形與軟件部副總裁兼編譯器與語言部門總經理Alice Chan

有一些語言是大家耳熟能詳的,例如C++,它是可移植的,而且是在底層性能非常好的語言。但C++缺乏一些並行的語言特徵。還有一些語言像MATLAB,可能更多集中在頂層,如果你想在底層得到很好的性能是很難的。英偉達發明了一種語言CUDA,它能夠進行平行架構的編程,可以把負載轉移到加速器,但是這種語言是專用的,只能用在英偉達自己的硬件上。還有其他一些語言,例如OpenCL也能實現類似性能,但是圍繞它的社群活躍度,以及行業對他的認知度並不高,很難獲得你想表現的性能。這就是為什麼英特爾需要開發一種新的語言。

Alice Chan表示,我們這個全新編程語言的目的就是要實現跨架構、高性能,同時保證是開放的,針對所有軟件開發者開放,針對所有的硬件廠商開放。我們有世界領先的C++編譯器,知道哪些東西如何編譯。我們所做的是使用底層虛擬機按照這種格式進行編譯。其實我們只有為數不多的可選的技術,將N個雜亂的不同的獨立計算整理好,變成有序的結構。我們有幾種技術,包括矢量化、單程序多數據(SPMD),還有細粒度SPMD,不同的方式使用編譯器,將你的計算編譯成有序的結構。其實,很多技術並不是什麼新科技,DPC++語言將上述三種技術的思路融會貫通。DPC++能夠跨結構實現毫不妥協的性能所需的特性和抽象。

DPC++是建立在標準上的。C++是所有人都耳熟能詳的,它是一個國際標準。SYCL本身也是一個標準,是建立在C++基礎上的,它擁有我們尋求的一些特性,比如並行計算以及異構計算。但是它們現有的特性是不夠的,所以英特爾在此基礎上開發新特性,來確保實現預期的性能。

Alice Chan表示,我們的目標就是將DPC++提供給所有不同的硬件架構,並且保證它的開放性。對於CUDA來講,現在你完全不知道語言怎麼實施的,我們希望能夠避免這種現象。

基於庫的戰略

對於開發者來說,oneAPI包含語言編程,還有庫編程。英特爾架構、圖形與軟件部首席工程師Eric Lin則介紹了oneAPI基於庫的戰略。

Eric Lin表示,在AI和數據分析上,我們的願景是提供最佳的計算庫,並且針對這些計算庫,把英特爾的硬件變成一個對開發者非常容易的抽象,使得他們所有的工作能夠重複利用、更簡化。

"英特爾的六脈神劍,在最“軟”的一環放大招了

今年年初,英特爾在先進技術方面強調了六大支柱,包括製程和封裝、架構、內存和存儲、互連、安全、軟件。在這六脈神劍中,軟件的重要性愈加突出,特別是在幫助開發者群體面向未來的軟硬件方面,英特爾開發了一款軟件工具oneAPI,將於今年第四季度推出。

據英特爾架構、圖形與軟件部副總裁兼計算性能與開發者產品部門總經理William (Bill) Savage介紹,oneAPI始於硬件架構,是底層開發工具。在當今的數據中心裡面,架構不只侷限於CPU,還有GPU、FPGA以及專用的AI芯片。這些分別對應著標量(Scalar)、矢量(Vector)、矩陣(Matrix)和空間(Spatial)的不同計算架構,我們稱之為SVMS架構。

英特爾的六脈神劍,在最“軟”的一環放大招了

圖:英特爾架構、圖形與軟件部副總裁兼計算性能與開發者產品部門總經理William (Bill) Savage

oneAPI是一種統一的軟件架構,它能夠跨不同的架構和廠商,包括除英特爾之外的其他硬件廠商。oneAPI可以在軟件層面簡化和統一標量、矢量、矩陣和空間的不同硬件架構。

oneAPI主要包含兩部分,第一是跨架構的編程語言,很多不同的架構以及廠商都可以使用,第二、能夠滿足不同領域需求的跨架構庫的集合。無論是高級編程語言,還是架構庫。

oneAPI是開放的,同時,它有實施參考,以便其他實施者根據參考來進行實施。除此之外,跨架構庫也是一種開放的標準和規範,其他廠商也可以應用。所以,oneAPI是一套開放的行業規範,它鼓勵行業以及社區的支持。對於軟件開發者來講,oneAPI的好處是使他們能夠跨不同架構和不同廠商去使用源代碼,以及各種庫代碼。鼓勵他們更多地重複利用代碼,以降低開發成本。因此,oneAPI為大家提供除了英偉達CUDA之外的另一種選項。

oneAPI是基於英特爾至強系列處理器的,它是在單一架構基礎上演變而來的,可以支持多架構。同時,英特爾對於多種不同架構有很多經驗,對oneAPI有很好的支持作用。首先,在CPU的創新方面擁有大量的經驗。另外,還有來自於英特爾收購的Altera,可提供FPGA,以及Nervana的AI處理器。

行業中的軟件非常多,軟件開發者也特別多,有數百萬的開發者在最上層創造非常多的應用,這些應用開發者所使用的大量中間件以及框架來自數萬的中間件開發者。oneAPI的編程語言與庫的使用是在中間件和框架以下的底層,是最接近硬件的這一層,它會對整個軟件堆棧產生更大的影響。

英特爾的六脈神劍,在最“軟”的一環放大招了

新的編程語言DPC++

為了讓oneAPI更加易用,英特爾正在開發一種新的編程語言Data Parallel C++(DPC++)。

數據中心有大量的多元化硬件架構,如果你希望在這樣一個多元化的不同架構當中進行編程,需要多種不同工具以及不同語言,這就意味著在軟件開發過程中需要多支團隊,他們各自要去學習很多不同專業的技能,這顯然不是一種最高效的軟件開發方式。

英特爾架構、圖形與軟件部副總裁兼編譯器與語言部門總經理Alice Chan表示,我們希望改變這種現狀,並不僅僅是為了英特爾自己的硬件去改變,而是為全行業去改變。

英特爾的六脈神劍,在最“軟”的一環放大招了

圖:英特爾架構、圖形與軟件部副總裁兼編譯器與語言部門總經理Alice Chan

有一些語言是大家耳熟能詳的,例如C++,它是可移植的,而且是在底層性能非常好的語言。但C++缺乏一些並行的語言特徵。還有一些語言像MATLAB,可能更多集中在頂層,如果你想在底層得到很好的性能是很難的。英偉達發明了一種語言CUDA,它能夠進行平行架構的編程,可以把負載轉移到加速器,但是這種語言是專用的,只能用在英偉達自己的硬件上。還有其他一些語言,例如OpenCL也能實現類似性能,但是圍繞它的社群活躍度,以及行業對他的認知度並不高,很難獲得你想表現的性能。這就是為什麼英特爾需要開發一種新的語言。

Alice Chan表示,我們這個全新編程語言的目的就是要實現跨架構、高性能,同時保證是開放的,針對所有軟件開發者開放,針對所有的硬件廠商開放。我們有世界領先的C++編譯器,知道哪些東西如何編譯。我們所做的是使用底層虛擬機按照這種格式進行編譯。其實我們只有為數不多的可選的技術,將N個雜亂的不同的獨立計算整理好,變成有序的結構。我們有幾種技術,包括矢量化、單程序多數據(SPMD),還有細粒度SPMD,不同的方式使用編譯器,將你的計算編譯成有序的結構。其實,很多技術並不是什麼新科技,DPC++語言將上述三種技術的思路融會貫通。DPC++能夠跨結構實現毫不妥協的性能所需的特性和抽象。

DPC++是建立在標準上的。C++是所有人都耳熟能詳的,它是一個國際標準。SYCL本身也是一個標準,是建立在C++基礎上的,它擁有我們尋求的一些特性,比如並行計算以及異構計算。但是它們現有的特性是不夠的,所以英特爾在此基礎上開發新特性,來確保實現預期的性能。

Alice Chan表示,我們的目標就是將DPC++提供給所有不同的硬件架構,並且保證它的開放性。對於CUDA來講,現在你完全不知道語言怎麼實施的,我們希望能夠避免這種現象。

基於庫的戰略

對於開發者來說,oneAPI包含語言編程,還有庫編程。英特爾架構、圖形與軟件部首席工程師Eric Lin則介紹了oneAPI基於庫的戰略。

Eric Lin表示,在AI和數據分析上,我們的願景是提供最佳的計算庫,並且針對這些計算庫,把英特爾的硬件變成一個對開發者非常容易的抽象,使得他們所有的工作能夠重複利用、更簡化。

英特爾的六脈神劍,在最“軟”的一環放大招了

圖:英特爾架構、圖形與軟件部首席工程師Eric Lin

首先是計算庫。SVMS有各種不同的架構。很多公司都有自己的芯片戰略,如華為、阿里、百度等等,還有非常多的AI初創公司。它們做出來芯片後,如果沒有軟件,就沒有辦法使用。英特爾在庫上試圖把硬件能力抽象出來,把最重要的算法變成API,使你不用自己針對硬件再去開發,用這個API就可以把硬件所有潛力發揮出來。

英特爾的策略是把庫集成到框架中,框架再提供給數百萬數據科學家、算法工程師,他們使用它開發出真正的應用。一個庫服務數萬個框架開發者,服務數百萬甚至更多的數據科學家。從硬件到應用這條路就打通了。

oneAPI有幾個庫。第一個是英特爾數學核心函數庫(MKL),它提供了很多數列變換、矩陣計算、解方程,各種積分、微分、數學公式都在裡面。

第二個庫是英特爾的數據分析加速庫(DAAL),它實現經典的機器學習算法。DAAL有兩個主要設計點,第一是非常容易使用,基於Python接口,單行代碼就可以注入到你所使用的任何系統中去。另外,它是跨節點的,有非常好的伸縮性。

第三個庫,是面向深度神經網絡的英特爾數學核心函數庫(MKL-DNN)。這個庫自動對各種英特爾的硬件優化。所有庫都針對各種英特爾的硬件進行優化。任何人只要實現了這個接口,設計了新的芯片,都可以從庫裡獲得優化。這是一勞永逸的,因為它把硬件的複雜性遮蔽掉了。

Eric Lin表示,除了庫以外,我們還要數據科學家使用,還給所有開發者提供了方便。

那怎麼樣讓這個工作流程中的所有開發者、參與者更有效率呢?第一,通過庫把硬件抽象出來,很多做推理訓練框架的人可以直接用這個庫,實現庫中的數學公式。然後把這些能力通過各種架構提供給數據科學家和應用開發者,開發者看到的抽象是他們熟悉的抽象,也就是數學公式,他們不熟悉的抽象是各種硬件,這就簡化了數據科學家的工作。第二,對於部署者來講,使用了推理引擎,使他們的工作更加容易。

對數據科學家來說,將來英特爾的任何產品也會一樣使用完全相同的程序結構,你不用改程序,就能自動獲得所有支持oneAPI的硬件,可以直接用。只要你的硬件和oneAPI標準一致,所有針對架構優化的程序就自動對你的硬件進行優化,就能把硬件最好的性能釋放出來。如果沒有oneAPI,自己寫程序非常困難。

據悉,已經有很多廠商使用了oneAPI。比如在百度的Paddle Paddle上,還有與Facebook的合作,Facebook絕大部分的AI業務使用了英特爾優化的PyTorch,用以支撐他們每天的業務。

*免責聲明:本文由作者原創。文章內容系作者個人觀點,半導體行業觀察轉載僅為了傳達一種不同的觀點,不代表半導體行業觀察對該觀點贊同或支持,如果有任何異議,歡迎聯繫半導體行業觀察。

今天是《半導體行業觀察》為您分享的第2054期內容,歡迎關注

半導體行業觀察

半導體第一垂直媒體

實時 專業 原創 深度

"

相關推薦

推薦中...