英特爾：為DeepSeek大模型提供優(yōu)化工具降低部署門檻

快訊 2025年02月02日 17:15 28 admin

　　來源：環(huán)球網(wǎng)

　　【環(huán)球網(wǎng)科技綜合報道】近日，DeepSeek推出了一款名為Janus Pro的先進AIGC（人工智能生成內(nèi)容）模型，該模型以其卓越的性能和高精度引起了行業(yè)的廣泛關(guān)注。

　　2月2日，英特爾方面表示，英特爾? Gaudi 2D AI加速器針對Janus Pro進行了優(yōu)化，為AI開發(fā)者提供了以更低的成本和更高的效率部署復(fù)雜任務(wù)的可能性，滿足了行業(yè)對于推理計算能力的需求。

　　據(jù)了解，DeepSeek Janus Pro首次采用了統(tǒng)一的Transformer架構(gòu)，打破了傳統(tǒng)AIGC模型依賴多路徑視覺編碼的限制，實現(xiàn)了理解與生成任務(wù)的一體化支持。通過優(yōu)化訓(xùn)練策略和擴大模型規(guī)模，Janus Pro在文生圖等功能上展現(xiàn)了顯著的性能提升和穩(wěn)定性，并推出了10億參數(shù)和70億參數(shù)兩個版本，進一步鞏固了其在性能和精度方面的競爭力。

　　值得一提的是，Janus Pro在統(tǒng)一Transformer架構(gòu)下，文生圖模型的吞吐量不再僅僅依賴于加速器的高算力，而是充分利用HBM內(nèi)存的高帶寬和大容量。借助英特爾? Gaudi 2D提供的2.45TB/秒的高帶寬和96GB HBM大容量內(nèi)存，Janus Pro在處理批處理任務(wù)時表現(xiàn)出了顯著的吞吐性能提升，能夠大幅縮短了任務(wù)處理時間。結(jié)合英特爾Optimum-Habana框架的優(yōu)化，僅需約10秒即可生成16張高質(zhì)量圖片，極大提升了文生圖任務(wù)的效率。

　　此外，DeepSeek的蒸餾模型也得到了至強和Gaudi平臺的支持，有助于降低總體擁有成本（TCO），促進AI技術(shù)的普及。目前，英特爾的AI產(chǎn)品組合已針對超過500個開源AI模型提供支持，包括DeepSeek、Llama 3.1和通義千問等，同時致力于構(gòu)建開放生態(tài)系統(tǒng)，為企業(yè)AI應(yīng)用的實現(xiàn)提供堅實基礎(chǔ)。（勃潺）

標(biāo)簽：英特爾門檻部署