亞馬遜AWS與晶圓級AI芯片企業(yè)Cerebras近日達成重要合作，雙方宣布將在未來數(shù)月內(nèi)于Amazon Bedrock平臺部署一套創(chuàng)新的混合AI推理系統(tǒng)。該系統(tǒng)通過整合雙方芯片技術(shù)優(yōu)勢，旨在實現(xiàn)前所未有的負載處理速度，為AI應用提供更高效的算力支持。

這一解決方案的核心在于將Cerebras的CS-3系統(tǒng)與亞馬遜AWS的Trainium芯片深度結(jié)合，并輔以EFA彈性網(wǎng)絡(luò)適配器實現(xiàn)高效互聯(lián)。具體分工上，Trainium芯片負責處理推理過程中的預填充階段（即提示處理），而CS-3系統(tǒng)則專注于解碼階段（輸出生成任務(wù)）。這種分工模式充分利用了兩種芯片的架構(gòu)特性——Trainium在并行計算和內(nèi)存帶寬間的平衡優(yōu)勢，與CS-3在串行任務(wù)處理中的高帶寬特性形成互補。

技術(shù)層面，推理預填充階段需要處理大規(guī)模并行計算任務(wù)，對算力需求極高但內(nèi)存帶寬要求相對適中；而解碼階段作為串行流程，雖然算力需求較低，卻對內(nèi)存帶寬極為敏感。通過EFA網(wǎng)絡(luò)適配器構(gòu)建的高速連接通道，兩種芯片得以無縫協(xié)作，既避免了資源浪費，又確保了每個環(huán)節(jié)都能以最優(yōu)效率運行。這種異構(gòu)計算架構(gòu)的設(shè)計，為AI推理任務(wù)提供了全新的性能優(yōu)化路徑。

據(jù)行業(yè)分析，這種軟硬協(xié)同的創(chuàng)新模式有望突破傳統(tǒng)單一芯片架構(gòu)的性能瓶頸。特別是在處理復雜AI模型時，混合系統(tǒng)能夠動態(tài)調(diào)配計算資源，使預填充階段的快速響應與解碼階段的高精度輸出形成完美配合。隨著生成式AI等應用場景對實時性要求的不斷提升，此類異構(gòu)計算方案或?qū)⒁l(fā)行業(yè)技術(shù)路線的重新思考。