時(shí)間:2025-03-20 16:46:32來源:千家網(wǎng)
然而,AI的快速發(fā)展對云服務(wù)提供商和企業(yè)數(shù)據(jù)中心的基礎(chǔ)設(shè)施提出了更高的要求。數(shù)據(jù)作為AI發(fā)展的關(guān)鍵“燃料”,必須得到有效的收集、保護(hù)和傳輸。探索新AI應(yīng)用的組織必須應(yīng)對這些挑戰(zhàn)。為了支持AI所需的海量數(shù)據(jù)和計(jì)算資源,我們需要構(gòu)建更高效、更可靠的網(wǎng)絡(luò)基礎(chǔ)設(shè)施。
在此背景下,以太網(wǎng)技術(shù)憑借其成熟而廣泛的生態(tài)系統(tǒng),正在成為AI網(wǎng)絡(luò)基礎(chǔ)設(shè)施的重要支撐。以太網(wǎng)顯示出強(qiáng)大的潛力,可以滿足AI的高要求并提供統(tǒng)一的平臺(tái),這對AI的經(jīng)濟(jì)可行性產(chǎn)生了重大影響。它可以跨各種網(wǎng)絡(luò)和云實(shí)現(xiàn)一致的運(yùn)營模型,避免維護(hù)多個(gè)基礎(chǔ)設(shè)施所產(chǎn)生的高昂成本。
AI網(wǎng)絡(luò)發(fā)展的關(guān)鍵要求
速度:AI業(yè)務(wù)的快速增長推動(dòng)了數(shù)據(jù)中心和邊緣網(wǎng)絡(luò)對更高速度的需求,推動(dòng)網(wǎng)絡(luò)向400Gbit/s甚至800Gbit/s等新一代網(wǎng)絡(luò)邁進(jìn)。
隱私和安全:網(wǎng)絡(luò)必須高效處理數(shù)據(jù),同時(shí)確保多租戶環(huán)境中的高端加密和安全,以保護(hù)數(shù)據(jù)隱私。
邊緣推理:隨著企業(yè)部署大型語言模型(LLM)或小型語言模型(SLM)和混合私有AI云,推理能力的前端部署將成為關(guān)注點(diǎn)。
短作業(yè)完成時(shí)間(JCT)和低延遲:優(yōu)化網(wǎng)絡(luò)以提供無損傳輸,通過擁塞管理和負(fù)載平衡確保高效的帶寬利用率,是實(shí)現(xiàn)快速JCT的關(guān)鍵。
靈活的集群:在AI數(shù)據(jù)中心,處理器集群可以配置成各種拓?fù)洹?yōu)化性能需要避免層或區(qū)域之間的超額訂閱以減少JCT。
多租戶支持:出于安全原因,AI網(wǎng)絡(luò)需要分離數(shù)據(jù)流。
標(biāo)準(zhǔn)化架構(gòu):AI 網(wǎng)絡(luò)通常由后端基礎(chǔ)設(shè)施(訓(xùn)練)和前端(推理)組成。以太網(wǎng)的通用性允許后端和前端集群之間的技術(shù)重用。
以太網(wǎng)技術(shù)的持續(xù)創(chuàng)新
以太網(wǎng)技術(shù)不斷創(chuàng)新發(fā)展,以滿足人工智能對網(wǎng)絡(luò)規(guī)模的更高要求。一些關(guān)鍵的技術(shù)進(jìn)步包括:
數(shù)據(jù)包噴射:該技術(shù)允許每個(gè)網(wǎng)絡(luò)流同時(shí)訪問到目的地的所有路徑。數(shù)據(jù)包的靈活排序充分利用了所有以太網(wǎng)鏈路,實(shí)現(xiàn)了最佳負(fù)載平衡,僅在人工智能工作負(fù)載中帶寬密集型操作需要時(shí)才強(qiáng)制排序。
擁塞管理:基于以太網(wǎng)的擁塞控制算法對于人工智能工作負(fù)載至關(guān)重要。它們可以防止熱點(diǎn)并在多條路徑上均勻分配負(fù)載,確保人工智能流量的可靠傳輸。
統(tǒng)一和優(yōu)化的企業(yè)基礎(chǔ)設(shè)施
企業(yè)需要部署統(tǒng)一的人工智能網(wǎng)絡(luò)基礎(chǔ)設(shè)施和運(yùn)營模式,以降低人工智能服務(wù)和應(yīng)用的成本。采用基于標(biāo)準(zhǔn)的以太網(wǎng)作為支撐技術(shù)是核心要素。它確保前端和后端系統(tǒng)之間的兼容性,避免不同架構(gòu)帶來的標(biāo)準(zhǔn)化過程障礙和經(jīng)濟(jì)影響。例如,Arista 主張建立一個(gè)“人工智能中心”,在那里通過無損網(wǎng)絡(luò)高效地訓(xùn)練 GPU。訓(xùn)練好的AI模型連接到AI推理集群,讓終端用戶可以方便地查詢這些模型。
以太網(wǎng)的市場優(yōu)勢
以太網(wǎng)憑借其開放性、靈活性和適應(yīng)性在AI部署方面表現(xiàn)出強(qiáng)大的競爭力。其性能超越了InfiniBand,隨著超級(jí)以太網(wǎng)聯(lián)盟(UEC)的增強(qiáng),其優(yōu)勢將進(jìn)一步擴(kuò)大。此外,以太網(wǎng)更具成本效益,擁有更廣泛和更開放的生態(tài)系統(tǒng),為后端和前端集群提供通用性、統(tǒng)一的操作和技能集,以及集群之間的平臺(tái)重用機(jī)會(huì)。隨著AI用例和服務(wù)的不斷擴(kuò)展,以太網(wǎng)基礎(chǔ)設(shè)施的機(jī)會(huì)將大大增加,無論是在超大規(guī)模LLM的核心還是在企業(yè)邊緣。AI就緒的以太網(wǎng)可以滿足需求,并提供基于行業(yè)特定私有數(shù)據(jù)的AI推理。
總而言之,以太網(wǎng)技術(shù)在AI網(wǎng)絡(luò)基礎(chǔ)設(shè)施中起著至關(guān)重要的作用。它可以滿足AI在速度、安全性、邊緣推理等方面的多方面需求。以太網(wǎng)通過持續(xù)的技術(shù)創(chuàng)新和廣泛的生態(tài)系統(tǒng)支持,為企業(yè)提供更高效、更經(jīng)濟(jì)的解決方案,促進(jìn)人工智能的廣泛應(yīng)用和發(fā)展。
中國傳動(dòng)網(wǎng)版權(quán)與免責(zé)聲明:凡本網(wǎng)注明[來源:中國傳動(dòng)網(wǎng)]的所有文字、圖片、音視和視頻文件,版權(quán)均為中國傳動(dòng)網(wǎng)(www.hysjfh.com)獨(dú)家所有。如需轉(zhuǎn)載請與0755-82949061聯(lián)系。任何媒體、網(wǎng)站或個(gè)人轉(zhuǎn)載使用時(shí)須注明來源“中國傳動(dòng)網(wǎng)”,違反者本網(wǎng)將追究其法律責(zé)任。
本網(wǎng)轉(zhuǎn)載并注明其他來源的稿件,均來自互聯(lián)網(wǎng)或業(yè)內(nèi)投稿人士,版權(quán)屬于原版權(quán)人。轉(zhuǎn)載請保留稿件來源及作者,禁止擅自篡改,違者自負(fù)版權(quán)法律責(zé)任。
產(chǎn)品新聞
更多>激光閃耀 智慧引領(lǐng) | WISE MASER 黑武士...
2025-03-20
2025-03-13
2025-03-06
2025-02-25
2025-02-21
管材加工“黑科技”:WiseCAM導(dǎo)入重構(gòu)新...
2025-02-21