內(nèi)容概要:內(nèi)存內(nèi)處理(PIM,也稱為存內(nèi)計算)是指將處理器與RAM(隨機存取存儲器)集成在單個芯片上。集成后的芯片也被稱為PIM芯片。PIM允許在計算機、服務器或類似設備的內(nèi)存中執(zhí)行計算和處理,該架構通過在內(nèi)存模塊內(nèi)執(zhí)行任務來加速任務的整體處理。為了解決馮·諾依曼瓶頸帶來的功耗和算力問題,存內(nèi)計算的概念被提了出來。與馮·諾依曼架構中分離的處理器和存儲器不同的是,存內(nèi)計算將數(shù)據(jù)的存儲和計算融為一體,使得存儲陣列不僅具有常規(guī)的數(shù)據(jù)存儲能力,同時又具有陣列運算的功能。21世紀以來,隨著人工智能技術的快速發(fā)展,具有高能效比的存內(nèi)計算架構迎來了發(fā)展浪潮,此后,存內(nèi)計算在神經(jīng)網(wǎng)絡計算等領域逐漸受到關注。三星、臺積電、海力士、英特爾、IBM等半導體巨頭也都投入到了存內(nèi)計算架構的研發(fā)之中。存內(nèi)計算的出現(xiàn)使計算平臺的算力功耗比、面積功耗比等進入了一個新的階段。據(jù)Precedence Research數(shù)據(jù),2023年全球存內(nèi)計算市場規(guī)模約為180.4億美元,預計到2028年規(guī)模將增長至387.6億美元,期間年復合增長率為17%。
關鍵詞:內(nèi)存內(nèi)處理 (PIM)芯片發(fā)展歷程、內(nèi)存內(nèi)處理 (PIM)芯片發(fā)展優(yōu)勢、內(nèi)存內(nèi)處理 (PIM)芯片市場現(xiàn)狀
一、內(nèi)存內(nèi)處理 (PIM)芯片行業(yè)相關概述
內(nèi)存內(nèi)處理(PIM,也稱為存內(nèi)計算)是指將處理器與RAM(隨機存取存儲器)集成在單個芯片上。集成后的芯片也被稱為PIM芯片。PIM允許在計算機、服務器或類似設備的內(nèi)存中執(zhí)行計算和處理,該架構通過在內(nèi)存模塊內(nèi)執(zhí)行任務來加速任務的整體處理。
存內(nèi)計算的提出可以追溯到上世紀70年代,1969年,William等首次提出存儲和邏輯整合的想法,將存儲和邏輯運算電路集成為小的元胞,然后迭代成一個二維陣列,再通過編程的方法可以實現(xiàn)所需的復雜邏輯行為,這種存內(nèi)邏輯結構設計在設計、制造、測試等方面具有許多優(yōu)勢。次年,Harlod等提出存內(nèi)邏輯處理器的概念,存內(nèi)邏輯陣列不但可以作為CPU與存儲之間的高速緩沖,還具有處理數(shù)據(jù)的能力。1975年,Elmasry等提出了一種利用雙極型晶體管構成的兩級存內(nèi)邏輯,該結構可以實現(xiàn)存儲和組合邏輯功能。1982年,Odaka等提出了一種存內(nèi)邏輯計算超大規(guī)模專用集成電路(VLSI),集成了6144位存儲和770個邏輯門電路,提高了處理器效率。21世紀之前對于存內(nèi)計算的研究還處于起步階段,21世紀以來,隨著人工智能技術的快速發(fā)展,具有高能效比的存內(nèi)計算架構迎來了發(fā)展浪潮,此后,存內(nèi)計算在神經(jīng)網(wǎng)絡計算等領域逐漸受到關注。2018年,IEEE國際固態(tài)電路會議(ISSCC)開始設立一個獨立的議程來討論存內(nèi)計算相關的設計。三星、臺積電、海力士、英特爾、IBM等半導體巨頭也都投入到了存內(nèi)計算架構的研發(fā)之中。存內(nèi)計算的出現(xiàn)使計算平臺的算力功耗比、面積功耗比等進入了一個新的階段。
相關報告:智研咨詢發(fā)布的《2025年中國內(nèi)存內(nèi)處理 (PIM)芯片行業(yè)市場全景分析及產(chǎn)業(yè)需求研判報告》
二、內(nèi)存內(nèi)處理 (PIM)芯片行業(yè)發(fā)展背景
1965年,英特爾聯(lián)合創(chuàng)始人戈登·摩爾預測,單個芯片上的晶體管數(shù)量大約每兩年翻一番,而成本只會有極小的增加。該預測被稱為摩爾定律。由于技術的進步與芯片制造工藝的改進,在過去幾十年里,芯片的算力有著顯著的提高。例如,1978年,英特爾推出的8086微處理器,工作在4.77MHz的時鐘頻率,具有0.33百萬條指令每秒的處理速度;20世紀90年代早期,英特爾Pentium系列處理器的算力達到了100MIPS;到了90年代末期,英特爾PentiumIII系列處理器的算力達到了600-700MIPS;2000年以后,英特爾推出Core系列處理器,算力則達到了20-30十億條指令每秒;2020年蘋果公司推出的M1處理器,算力已經(jīng)達到了1000BIPS。盡管摩爾定律預見了芯片行業(yè)的發(fā)展趨勢,但如今,隨著晶體管尺寸接近原子級,半導體材料和制造工藝已經(jīng)到達物理極限,同時,隨著芯片尺寸和晶體管數(shù)量的增加,芯片的發(fā)熱和功耗也急劇增加,摩爾定律正面臨越來越多的局限與挑戰(zhàn)。物理尺寸和制造工藝的提升已經(jīng)無法滿足摩爾定律發(fā)展的速度,因此,需要尋找新的技術來維持計算機性能的增長。
截至2023年底,全球算力基礎設施總規(guī)模達到910EFLOPS(FP32),同比增長40%。美國、中國算力基礎設施規(guī)模位列前兩名,中國算力總規(guī)模達230 EFLOPS。近年來,隨著可穿戴設備、物聯(lián)網(wǎng)、邊緣計算、人工智能等應用的興起,人們對于計算平臺提出了更高的要求,即用有限的能源與資源實現(xiàn)更大的算力,或者實現(xiàn)相同的算力消耗更低的能源與資源。以中央處理器(CPU)與存儲器構成的現(xiàn)有計算平臺,當需要處理的數(shù)據(jù)越來越多時,便會由于中央處理與存儲器之間的吞吐率急劇上升而出現(xiàn)瓶頸,該瓶頸被稱為馮·諾依曼瓶頸,在進行計算時,首先需要將存儲器里的值通過總線讀取出來,再將輸入和讀取出的值通過總線送到中央處理器進行計算得到輸出結果。在消耗大量時間讀取和寫入數(shù)據(jù)的同時,由于需要頻繁訪問存儲器,大量無關的能量會被消耗。馮·諾依曼瓶頸的出現(xiàn)導致現(xiàn)有平臺的算力受限,這嚴重阻礙了物聯(lián)網(wǎng)、邊緣計算、人工智能等應用的發(fā)展。為了解決這些問題,業(yè)內(nèi)提出了幾種解決方案,包括引入緩存結構(Cache)和無序執(zhí)行(Out-of-orderProcessing)技術減少存儲訪問帶來的損失等。然而,這些技術仍然跟不上新興應用所需存儲的指數(shù)增長,這對傳統(tǒng)的計算系統(tǒng)提出了挑戰(zhàn)。
三、內(nèi)存內(nèi)處理 (PIM)芯片行業(yè)發(fā)展現(xiàn)狀
為了解決馮·諾依曼瓶頸帶來的功耗和算力問題,存內(nèi)計算的概念被提了出來。與馮·諾依曼架構中分離的處理器和存儲器不同的是,存內(nèi)計算將數(shù)據(jù)的存儲和計算融為一體,使得存儲陣列不僅具有常規(guī)的數(shù)據(jù)存儲能力,同時又具有陣列運算的功能。由于存內(nèi)計算無需將數(shù)據(jù)從存儲器中讀出,因此不存在中央處理器與存儲器之間的吞吐率瓶頸,同時,因為省去了存儲的讀寫過程,存內(nèi)計算平臺的功耗和時效都遠優(yōu)于馮·諾依曼架構的計算平臺。在機器學習、人工智能、實時數(shù)據(jù)分析等應用中,存內(nèi)計算可以實現(xiàn)對大容量數(shù)據(jù)的更高效處理,這在數(shù)據(jù)集變得越來越大且越來越復雜的情況下變得越來越重要。其次,存內(nèi)計算可以幫助克服傳統(tǒng)基于磁盤的存儲系統(tǒng)的性能限制,降低處理大型數(shù)據(jù)集的數(shù)據(jù)搬運量。通過消除這種瓶頸,存內(nèi)計算可以釋放處理器的計算潛力,加速計算平臺技術的進步。除了消除計算瓶頸外,存內(nèi)計算還在降低計算系統(tǒng)的能耗方面發(fā)揮著重要的作用,通過減少訪問存儲器需求,存內(nèi)計算可以幫助降低計算系統(tǒng)的能耗,從而達到更加節(jié)能的目的。
以三星HBM-PIM為例,與配備傳統(tǒng)的HBM的GPU相比,生成式AI運行在基于三星的HBM-PIM的系統(tǒng)上,能效平均高出了約2倍,性能加速了2倍以上。
目前的PIM方案主要通過在內(nèi)存(DRAM)芯片中實現(xiàn)部分數(shù)據(jù)處理,其中典型的產(chǎn)品形態(tài)包括HBM-PIM和PIM-DIMM。這些方案在DRAM Die中內(nèi)置了處理單元,為系統(tǒng)提供了具備大吞吐和低延遲的片上處理能力。這種存內(nèi)處理技術可應用于多種場景,包括語音識別、數(shù)據(jù)庫索引搜索、基因匹配等。DRAM存儲芯片在信息時代扮演著至關重要的角色,為半導體存儲器第一大產(chǎn)品。在各國政策大力支持、市場需求持續(xù)增長、廠商技術水平不斷提升等因素驅動下,DRAM存儲芯片行業(yè)取得了顯著的發(fā)展成果。但2022年以來,伴隨著消費電子市場低迷,DRAM需求也明顯下滑,市場規(guī)模萎縮。2023年全球DRAM市場規(guī)模為518.6億美元,同比下降35%,占存儲市場的56%左右。
內(nèi)存內(nèi)處理這一創(chuàng)新技術自問世以來,便受到了業(yè)界的廣泛關注。目前,三星、SK海力士、阿里巴巴達摩院等科技巨頭紛紛投入研發(fā),將內(nèi)存內(nèi)處理技術作為未來的增長引擎。據(jù)Precedence Research數(shù)據(jù),2023年全球存內(nèi)計算市場規(guī)模約為180.4億美元,預計到2028年規(guī)模將增長至387.6億美元,期間年復合增長率為17%。
以上數(shù)據(jù)及信息可參考智研咨詢(www.thewallstreetmoneymachine.com)發(fā)布的《2025年中國內(nèi)存內(nèi)處理 (PIM)芯片行業(yè)市場全景分析及產(chǎn)業(yè)需求研判報告》。智研咨詢是中國領先產(chǎn)業(yè)咨詢機構,提供深度產(chǎn)業(yè)研究報告、商業(yè)計劃書、可行性研究報告及定制服務等一站式產(chǎn)業(yè)咨詢服務。您可以關注【智研咨詢】公眾號,每天及時掌握更多行業(yè)動態(tài)。


2025年中國內(nèi)存內(nèi)處理 (PIM)芯片行業(yè)市場全景分析及產(chǎn)業(yè)需求研判報告
《2025年中國內(nèi)存內(nèi)處理 (PIM)芯片行業(yè)市場全景分析及產(chǎn)業(yè)需求研判報告》共十章,包括內(nèi)存內(nèi)處理 (PIM)芯片行業(yè)相關概述、內(nèi)存內(nèi)處理 (PIM)芯片行業(yè)運行環(huán)境(PEST)分析、全球內(nèi)存內(nèi)處理 (PIM)芯片行業(yè)運營態(tài)勢、中國內(nèi)存內(nèi)處理 (PIM)芯片行業(yè)經(jīng)營情況分析、中國內(nèi)存內(nèi)處理 (PIM)芯片行業(yè)競爭格局分析、中國內(nèi)存內(nèi)處理 (PIM)芯片行業(yè)上、下游產(chǎn)業(yè)鏈分析、內(nèi)存內(nèi)處理 (PIM)芯片行業(yè)主要優(yōu)勢企業(yè)分析、內(nèi)存內(nèi)處理 (PIM)芯片行業(yè)投資機會、內(nèi)存內(nèi)處理 (PIM)芯片行業(yè)發(fā)展前景預測。



