為了AI能落地，英特爾真的很努力 

英特爾中國(guó) 2020-05-25 

2020年，在人工智能圈

有句調(diào)侃

行業(yè)大客戶都在忙著「 推理」

推理是啥？從哪里來(lái)的？

快速講一個(gè)層級(jí)關(guān)系

你就瞬間明白「推理」

在人工智能中所處的位置

↓

深度學(xué)習(xí)是機(jī)器學(xué)習(xí)的一個(gè)分支

而機(jī)器學(xué)習(xí)是人工智能的一個(gè)分支

三者層層包含

當(dāng)下最熱的深度學(xué)習(xí)

可以讓機(jī)器模擬人類的思考方式

包含兩個(gè)步驟

1、訓(xùn)練 2、推理

深度學(xué)習(xí)

1、什么是訓(xùn)練？

訓(xùn)練的最終目的是輸出一個(gè)算法模型

就是用海量數(shù)據(jù)，訓(xùn)練出一個(gè)“大腦”

2、什么是推理？

有了腦子，就要活學(xué)活用

把這個(gè)“大腦”，安裝在實(shí)際應(yīng)用場(chǎng)景中

來(lái)了新數(shù)據(jù)，拋給大腦判斷一下

輸出答案

推理離應(yīng)用場(chǎng)景更近

甚至，推理無(wú)需訓(xùn)練也能發(fā)生

在AI項(xiàng)目落地的進(jìn)程中

訓(xùn)練和推理的比例，正在發(fā)生改變

??

以前，訓(xùn)練：推理=1:1

現(xiàn)在，訓(xùn)練：推理=1:5

推理比重飆升

說(shuō)明2個(gè)趨勢(shì)

↓

?說(shuō)明人工智能的應(yīng)用變多了

意味著，人工智能越來(lái)越 落地了

?說(shuō)明人工智能的買單用戶發(fā)生改變

對(duì)訓(xùn)練需求比較大的客戶

一般是算法公司、大型互聯(lián)網(wǎng)公司

這類公司是制造“算法模型”

賦能給行業(yè)客戶使用

對(duì)推理需求比較大的客戶

一般是「 傳統(tǒng)行業(yè)用戶」

比如公安、金融、醫(yī)療..

他們?cè)谝獾氖恰皯?yīng)用層面”

有些甚至跳過(guò)訓(xùn)練這個(gè)階段

直接購(gòu)買算法模型

直接進(jìn)行推理應(yīng)用

比如

現(xiàn)在醫(yī)院AI落地最多的就是“讀片”

讀片的算法模型

已經(jīng)有專業(yè)算法公司做出來(lái)了

醫(yī)院客戶直接把這套算法模型軟件買過(guò)來(lái)

稍加優(yōu)化，然后推理應(yīng)用

而不要從零開始，訓(xùn)練模型

隨著推理落地應(yīng)用范圍擴(kuò)大

客戶越來(lái)越理智，也琢磨出了門道

前兩年，行業(yè)客戶嘗鮮人工智能項(xiàng)目時(shí)

往往會(huì)掉入了一個(gè)“大坑”

一上來(lái)

↓

然后再淺一腳深一腳地

把深度學(xué)習(xí)流程全跑一趟

整個(gè)過(guò)程經(jīng)歷九九八十難

數(shù)據(jù)不夠，硬件不熟，框架欠優(yōu)化，場(chǎng)景不具體

最終，訓(xùn)出一個(gè)不成熟的模型

達(dá)不到“實(shí)戰(zhàn)”要求

真成了“實(shí)驗(yàn)室”產(chǎn)品

后來(lái)，精明的客戶逐漸發(fā)現(xiàn)

在推理場(chǎng)景大行其道的時(shí)代

通用處理器拿過(guò)來(lái)做AI

效果更好，過(guò)渡更平滑

比如

新一代英特爾? 至強(qiáng)? 可擴(kuò)展處理器

內(nèi)置了“AI加速”能力

尤其在推理領(lǐng)域，速度最高能提升30倍！

客戶不需要顛覆式重建

只需在自家原有的機(jī)房設(shè)備上

“升級(jí)”出一套「人工智能計(jì)算平臺(tái)」

他們采用的就是

英特爾? 人工智能全棧解決方案

為了讓AI能夠更好落地

英特爾?可算操碎了心

這套方案，包括

丨硬件“全家桶”：計(jì)算、存儲(chǔ)、網(wǎng)絡(luò)

丨軟件“全家桶”：深度學(xué)習(xí)框架、工具套件

這個(gè)“全家桶”，沒(méi)有短板

先看內(nèi)置深度學(xué)習(xí)加速的

新一代英特爾? 至強(qiáng)? 可擴(kuò)展處理器

有四大系列

↓

2017和2019先后發(fā)布了兩代

今年即將推出第三代

AI加速能力進(jìn)一步飆升

具體的加速黑科技，在這里

↓

利用矢量神經(jīng)網(wǎng)絡(luò)指令(VNNI)

提升卷積神經(jīng)網(wǎng)絡(luò) (CNN)

和深度神經(jīng)網(wǎng)絡(luò) (DNN) 的計(jì)算速度

在大規(guī)模推理應(yīng)用時(shí)，計(jì)算速度更快

這個(gè)加速技術(shù)，說(shuō)白了就是

一個(gè)指令，能完成以前三個(gè)指令的工作

在實(shí)時(shí)性應(yīng)用推理場(chǎng)景中

速度變得更快

比如：醫(yī)療影像秒讀、語(yǔ)言翻譯瞬間

第二，英特爾? 傲騰? 技術(shù)

要想AI算得快，存儲(chǔ)不能拖后腿

傲騰一直是英特爾引以為傲的存儲(chǔ)技術(shù)

目前有兩大類產(chǎn)品

①傲騰持久內(nèi)存

②傲騰固態(tài)盤

即擁有逼近傳統(tǒng)內(nèi)存的時(shí)延和速度

又保持了硬盤的容量和非易失性

斷電后不需要重新加載數(shù)據(jù)

大幅提升數(shù)據(jù)密集型應(yīng)用的性能

是深度學(xué)習(xí)訓(xùn)練和推理的最佳伴侶

第三是，軟件、工具

英特爾為大力扶持AI發(fā)展

與各類主流深度學(xué)習(xí)框架合作

對(duì)框架進(jìn)行全面優(yōu)化

性能因此得到不斷提升

客戶也可以選擇使用適合自身需求的深度學(xué)習(xí)框架做模型訓(xùn)練，而無(wú)需購(gòu)買或者設(shè)置不同的硬件基礎(chǔ)設(shè)施

工具套件也是滿滿誠(chéng)意

Analytics Zoo工具包

可以快速高效進(jìn)行零碎的數(shù)據(jù)預(yù)處理工作

↓

   OpenVINO?工具包

可快速部署模擬人類視覺(jué)的應(yīng)用

人工智能落地，并不是一蹴而就的

推理能不能用好，至關(guān)重要

英特爾這種軟硬件協(xié)同優(yōu)化方案

處理器、存儲(chǔ)、框架、工具

極致算力，極致存儲(chǔ)，極致優(yōu)化

提供了一種捷徑，讓我們少走彎路

舉個(gè)例子，國(guó)內(nèi)AI獨(dú)角獸企業(yè)

第四范式

在Intel×第四范式AI聯(lián)合實(shí)驗(yàn)室的

合作開發(fā)下，第四范式推出了

企業(yè)級(jí)軟硬一體AI算力平臺(tái)

4Paradigm SageOne Advanced

第四范式這套“AI算力平臺(tái)”

采用了軟硬優(yōu)化一體設(shè)計(jì)理念，包含：

第二代英特爾?至強(qiáng)?可擴(kuò)展處理器

英特爾?傲騰?持久內(nèi)存

英特爾?FPGA以及第四范式自主研發(fā)的

人工智能平臺(tái)、分布式AI框架、自動(dòng)深度學(xué)習(xí)算法

…….

這套軟硬一體AI算力平臺(tái)

與非一體化設(shè)計(jì)相比

性能提升幅度，最高可達(dá)10倍

第四范式通過(guò)其“1+N”的企業(yè)AI方案

為金融、零售、能源、醫(yī)療等8000多家客戶服務(wù)

比如用于預(yù)測(cè)3年后糖尿病患病概率

其準(zhǔn)確率比臨床金標(biāo)預(yù)測(cè)高2-3倍

目前在30多個(gè)省市500多家醫(yī)院投入使用

如今，各行各業(yè)都在應(yīng)對(duì)全新AI挑戰(zhàn)

這其中，都有“Intel inside”

而且，他們都不需要徹底改造數(shù)據(jù)中心