當(dāng)前實(shí)現(xiàn)完整人工智能計(jì)算的方式為CPU+AI芯片的不同架構(gòu)芯片協(xié)同計(jì)算,即異構(gòu)計(jì)算,AI芯片也被稱為AI加速器或計(jì)算卡。異構(gòu)計(jì)算指的是采用不同架構(gòu)的處理器協(xié)同計(jì)算。人工智能芯片(CPU、ASIC、FPGA等)主要用來處理人工智能應(yīng)用中的大量計(jì)算任務(wù)(其大規(guī)模并行計(jì)算能力優(yōu)于CPU),其他非計(jì)算任務(wù)仍由CPU負(fù)責(zé),因此AI芯片也被稱為AI加速器或計(jì)算卡。
CPU+AI芯片的異構(gòu)計(jì)算是AI計(jì)算的主要架構(gòu)
數(shù)據(jù)來源:公開資料整理
目前主要有3類芯片作為AI異構(gòu)計(jì)算的加速卡(AI芯片):GPU(圖形處理器)、FPGA(現(xiàn)場(chǎng)可編程邏輯陣列)、ASIC(專用集成電路)。CPU與這三類芯片在AI任務(wù)中的特性對(duì)比見下表。
AI異構(gòu)計(jì)算中各芯片的特性對(duì)比
- | 并行 計(jì)算 能力 | 深度學(xué) 習(xí)計(jì)算 速度 | 能耗 | 效率 | 優(yōu)點(diǎn) | 代表企業(yè) | 特點(diǎn) |
CPU | 低 | 最慢 | 最高 | 最低 | 在計(jì)算和邏輯 運(yùn)算方面全能 | Intel、AMD | 通用性強(qiáng),AI任務(wù)除了計(jì)算還有其他任務(wù),因此CPU仍然不可或缺 |
GPU | 高 | 快 | 較高 | 高 | 在計(jì)算方面通 用性強(qiáng) | NVIDIA、 AMD | 通用性強(qiáng),軟件開發(fā)環(huán)境好(NVIDIA的功勞),但功耗高于FPGA和ASIC |
FPGA | 高 | 快 | 低 | 高 | 硬件可編程,復(fù) 用性高 | Xilinx, Altera(已被 Intel收購) | 由于其硬件可重新編程,對(duì)中小企業(yè)來說開發(fā)成本低,但軟件開發(fā)環(huán)境弱于GPU |
ASIC | 高 | 最快 | 最低 | 高 | 電路根據(jù)需求 專門定制 | Google | 對(duì)于中小企業(yè)來說開發(fā)成本高,Google的TPU不對(duì)外出售,其他軟件開發(fā)環(huán)境尚不完善 |
數(shù)據(jù)來源:公開資料整理
2000年以后,科學(xué)計(jì)算、數(shù)值分析、金融分析等高性能運(yùn)算(HPC)需求催生了CPU+GPU的異構(gòu)計(jì)算。高性能計(jì)算(HPC,HighPerformanceComputing)包括科學(xué)計(jì)算、數(shù)值分析、金融分析、密碼破解等,在2000年以后較快發(fā)展。HPC中需要的計(jì)算遠(yuǎn)多于其他邏輯指令,而GPU比CPU更加擅長(zhǎng)大規(guī)模浮點(diǎn)計(jì)算,因此GPU被用來代替CPU進(jìn)行通用計(jì)算。
GPU在高性能運(yùn)算方面的性能遠(yuǎn)超CPU
數(shù)據(jù)來源:公開資料整理
數(shù)據(jù)+計(jì)算力+算法逐步成熟,AI再次興起,CPU+GPU/FPGA/ASIC的異構(gòu)計(jì)算快速發(fā)展。
英特爾預(yù)計(jì),2016年到2020專注于AI的計(jì)算力或?qū)?huì)增加12倍。異構(gòu)計(jì)算作為AI計(jì)算的主要方式,發(fā)展空間大。
GA1、GN4、GN5、GN5i都是阿里云中的實(shí)例(可以理解為具體的云計(jì)算產(chǎn)品),用戶可購買該實(shí)例(租賃該產(chǎn)品)用于深度學(xué)習(xí)和科學(xué)計(jì)算。GA1是阿里云采用AMDGPU的彈性計(jì)算GPU可視化實(shí)例(ECSGPU),于2017年初推出,更多側(cè)重于圖像處理和高性能計(jì)算(HPC)。GN4、GN5、GN5i采用NVIDIAGPU,適用于AI計(jì)算和科學(xué)計(jì)算,其中GN4、GN5均為上半年推出,GN5i為本次最新推出。
下半年,阿里云還計(jì)劃推出搭載目前性能最強(qiáng)V100(Volta架構(gòu),NVIDIAGPU的最新架構(gòu))的高性能GPU異構(gòu)實(shí)例。
GN4、GN5異構(gòu)計(jì)算平臺(tái)參數(shù)和特點(diǎn)
數(shù)據(jù)來源:公開資料整理
GN4、GN5、GN5i異構(gòu)計(jì)算平臺(tái)采用的GPU參數(shù)和特點(diǎn)
數(shù)據(jù)來源:公開資料整理
2014年已有應(yīng)用AWSGPU進(jìn)行神經(jīng)網(wǎng)絡(luò)的嘗試,阿里云的GPU實(shí)例GA1為2017年2月推出,隨后陸續(xù)發(fā)布了GN4、GN5等實(shí)例,發(fā)展迅速,預(yù)計(jì)將助力中國(guó)企業(yè)和院校在AI領(lǐng)域的研發(fā)和應(yīng)用。
相關(guān)報(bào)告:智研咨詢發(fā)布的《2017-2023年中國(guó)人工智能市場(chǎng)分析預(yù)測(cè)及市場(chǎng)前景預(yù)測(cè)報(bào)告》



