新一代AI基礎設施針對產業用戶，采用“大中心+節點”模式，構建覆蓋整個區域的算力網絡，通過建設和運營聯動推動區域經濟一體化和智能化發展。Model as a Service（MaaS）成為核心，通過云服務提供高效的大模型服務，加速AI應用部署周期，降低企業應用大模型服務的成本，促進AI與各行業的深度整合。

一、AI 新基建開啟“三浪變革”

2023年迎來“知識生產力變革”第一浪，以大語言模型為核心，實現知識工程的生產力變革，類似于中世紀的印刷革命。大語言模型具有超高速學習能力，可在人機協同模式下顯著提高知識學習、搜索、傳播速度和準確性。

第二浪則是“軟件變革”，智能編程助手如商湯科技“代碼小浣熊”通過覆蓋軟件開發生命周期，實現超過50%開發效率提升。中國程序員數量居全球第二，中文成為最佳開發語言。大語言模型還支持多軟件串行、多模型協同組合，應用于AI Agent、MoE架構、綜合型智能客服等領域。新一代AI原生軟件應用正在普及，青少年在新興AI軟件與MaaS模型化創新思維中成長。

大語言模型智能編程助手，賦能軟件開發提效降本

第三浪是“AI計算變革”，隨著大語言模型規模不斷擴大，AI算力需求呈指數級增長，對線性增長的區域基礎設施提出挑戰。在此矛盾下，AI算力基礎設施正迎來技術工程創新，以不斷降低成本、提高效率。這使得AI成為賦能千行百業的通用型基礎設施，同時“百模大戰”演變為AI產業專業化分工。根據AI Now的報告，大模型算力需求每1-2個月翻一番，呈現出超越傳統架構的指數級增長。由于“AI超級需求曲線”領先傳統架構的AI算力供給，產生短期市場現象，如AI芯片產能瓶頸和價格上漲。未來，通過大規模智能基建資源的投入和技術創新，預計在未來3年解決大模型訓練成本、GPU供應、通訊瓶頸等核心挑戰，從而降低AI計算整體成本，釋放全民生成智能應用的創新潛力。

大模型算力的成本壓力

二、大模型、生成式 AI 推動 AI 2.0 時代到來

AI 2.0時代以生成式AI為主導，不再局限于以往模式檢測和規則遵循，而是通過大模型訓練實現類似人類創造過程，從而實現從“分類器”向“生成器”的本質性變化。預測顯示，到2027年，生成式AI將占全球人工智能支出的42%，達到1800億美元，復合增長率高達169.7%。大模型作為生成式AI發展基礎，中國市場已發布超過300個大模型。企業對生成式AI的顛覆性潛力認可度提高，Gartner預測到2026年，超過80%的企業將使用生成式AI的API或模型，或在生產環境中部署支持生成式AI應用，相較于2023年初的不到5%比例有顯著提升。生成式AI正在由熱議走向實際應用，其潛在的價值創造力巨大。據麥肯錫預測，生成式AI有望為全球經濟創造約7萬億美元的價值，提高AI的總體經濟效益約50%，其中中國預計貢獻約2萬億美元，接近全球總量的1/3。

生成式 AI 驅動 AI 市場規?；l展，并帶來全新經濟效益

1、生成式 AI 推進產業規?；?，AI 無處不在愿景加速實現

生成式AI迅速增長，企業從以往的點狀、創新應用逐步過渡到在業務流程各環節部署生成式AI，以提升競爭優勢。據麥肯錫調研，1/3的企業表示其組織在至少一個業務職能中經常使用生成式AI應用。企業通過加強在生成式AI領域的投資來推動這一實現，企業在ICT領域投資正在調整，將更多預算投入到生成式AI領域，從中獲得客觀的收益。據IDC的調研，已有24%的中國企業在生成式AI上投資，69%的企業正在篩選潛在應用場景或開始測試和概念驗證。預計到2026年，40%的中國企業將掌握生成式AI的使用，共同開發數字產品和服務，實現與競爭對手相比兩倍的收入增長。

各地區、行業和資歷級別的受訪者表示，他們已經在使用生成式 AI

企業正在調整人工智能（AI）戰略，以適應生成式AI的爆發式增長，使其覆蓋整個公司業務流程。在AI 1.0時代，企業通常制定長遠規劃，采用碎片化布局。然而，AI 2.0時代的生成式AI帶來日新月異的變化，企業戰略強調短期目標、快速行動，并逐漸覆蓋關鍵業務。戰略的關鍵變化包括對用例的重新考慮，從以前的預測分析和自動化應用場景轉向內容生成和創造。隨著生成式AI成為不可或缺的生產力工具，培訓員工負責任地使用這些工具也成為關注的焦點。

AI 2.0 時代，企業需要重新制定 AI 戰略

通過擁抱生成式AI，企業實現與員工之間的協同創新。生成式AI擴大人類專業知識、創造力和知識范圍，提高工作效率。最重要的是，生成式AI使得創新的可能性變得更為清晰，幫助人類在短時間內探索更多解決方案可能性，并以最小化成本撬動更多的價值。據Gartner預測，到2026年，將有超過1億人與“機器人同事（合成虛擬同事）”協同工作。

2、產業鏈成熟分化，基礎設施成為 AI 產業發展基座和保障

企業積極采用大模型和生成式AI推動AI應用向產業深水區快速發展。面對多樣化的業務需求和標準，AI產業鏈正迅速成熟和分化，上下游的產業角色和環節不斷增加，需要新型基礎設施來更好地支持這一發展。其中的關鍵影響包括：

1）智能算力成為AI產業發展的核心支持要素

企業傾向于使用AI就緒的數據中心或GPU集群進行大模型訓練，以縮短部署時間并降低設施的長期投資成本。智能算力適用于大模型訓練，已成為推動算力增長的主要動力。根據IDC的預測，中國智能算力規模到2027年預計將達到1117.4 EFLOPS。在2022年到2027年的期間，中國的智能算力規模年復合增長率為33.9%，而同期通用算力規模的年復合增長率為16.6%。

中國智能算力規模及預測，2020-2027，基于 FP16 計算，EFLOPS

2）人工智能生產范式轉向以大模型為核心的開發路徑

在AI 1.0時代，AI應用開發主要通過精細而復雜的編碼來表達邏輯，隨著業務場景從通用發展到碎片化，這種模式變得昂貴且面臨準確性挑戰，制約了AI產業發展。而在AI 2.0時代，基于強化學習和基模型與人工反饋相結合，AI應用開發進入規?；A段。通過微調基模型以適應業務邏輯，輔以提示詞工程，可以更迅速、低成本、高精度地覆蓋更廣泛的業務場景，使AI產業迎來一個高速發展、無處不在的新時代。

AI 2.0 時代，人工智能的生產范式發生了根本性改變

3）作為新的生產力工具，生成式 AI 應用發展進入大航海時代

隨著基模型的迅速成熟，生成式AI應用迎來爆發性增長。最初以ChatGPT、Midjourney等為代表的文本和圖像應用迅速擴展了用戶群。接著，音頻生成、視頻生成、多模態生成等應用以及面向不同行業和用戶群體的工具類應用（如代碼生成、Copilot、數字人、營銷工具、聊天助手等）紛紛涌現。到2023年11月OpenAI推出GPTs并計劃推出GPT Store，使用戶能夠無需編碼，結合自身指令、外部知識和能力創建定制版本的應用。這種個性化的開發模式以及清晰的商業化計劃，將生成式AI應用的主導地位從少數AI廠商擴展到大量AI開發者。

AI 2.0 時代，人工智能產業迎來更加繁榮的“大航海時代”

三、AI 2.0 時代對 AI 基礎設施提出了全新要求

進入 AI 2.0 時代，傳統針對移動互聯時代應用、以 CPU為中心的云計算基礎設施，無法滿足大模型訓練、生成式 AI 應用爆發所帶來的挑戰，這些新的挑戰對 AI 基礎設施的關鍵環節都提出全新的要求，包括算力、算法平臺、數據，以及圍繞三個環節的工程系統建設。

1、傳統計算基礎設施無法滿足大模型、生成式 AI 的新要求

大模型訓練和生成式AI應用對GPU或異構計算的需求大幅增加，傳統CPU算力已無法滿足。這不僅對GPU集群計算效率和穩定性提出多方面要求，而且算力不再是簡單的堆砌，而是需要進行復雜的系統性工程優化。同時面臨龐大的投資壓力，如何在保持系統穩定性和高效率之間取得平衡成為一個關鍵問題。

1）以GPU為核心的AI算力需求爆發性增長

以OpenAI GPT-3為例，訓練一次1750億參數的模型大約需要3640PFlops-day的算力，使用1024塊A100(GPU)進行34天的訓練。隨著模型參數的不斷增加，大模型訓練需求呈持續遞增的趨勢。過去四年大模型參數年均復合增長約為400%，相應的AI算力需求增長超過15萬倍，遠超摩爾定律的增速。例如，GPT-4的參數量大約是GPT-3的500倍，需要使用約2萬至3萬張A100(GPU)，并花費大約一個月的時間進行訓練。除大模型訓練，生成式AI應用的高并發推理也將進一步推高算力需求，未來可能遠遠超過訓練階段的算力需求。

AI 算力需求呈指數級增長，用以滿足大模型開發和實踐

2）高性能和高效率成為算力基礎設施的關鍵

為更好支持大模型訓練，采用多機多卡構成大集群進行分布式訓練成為不可或缺的選擇。然而大集群并非等同于大算力。分布式訓練中，由于網絡通信或數據緩存等問題，效率下降成為一個普遍挑戰。特別是在千億至萬億參數規模的大模型中，通信時間可能占比高達50%，互聯不暢將影響大模型訓練效率，制約算力集群的進一步擴展。因此，要求集群必須擁有高速互聯的網絡連接且網絡基礎設施需具備高度可靠性。在并行訓練中，網絡堵塞可能由于負載不均勻而成為系統短板，影響數十個甚至全部GPU節點的信息同步。此外，大模型訓練時通常通過Checkpoint保存模型參數，以實現連續性。然而，在傳統訓練方式下，當模型參數數量較大時，Checkpoint寫入時間會變得較長，降低GPU利用率。以GPT-3模型為例，文件系統寫入速度為15GB/s時，一次Checkpoint需時2.5分鐘，造成相應資源浪費。因此，支持大模型訓練的算力資源，不僅需要在集群硬件層面提升，還需要結合軟件層面進行優化設計。

大模型訓練任務的穩定性，隨著訓練集群規模的擴張而遞減

3）獨占式、大規模、長時間訓練對 GPU 集群穩定性提出更高要求

大模型訓練在龐大GPU集群上需要較長時間，若單個節點發生故障，整個訓練會中斷，而故障的原因和位置難以迅速確定。以Meta的OPT-17B訓練為例，理論上在1,000個80G A100上訓練3,000億個單詞需要33天，實際訓練卻用90天，期間發生112次故障，主要是硬件故障，導致手動重啟35次，自動重啟約70次。節點故障不僅延長訓練時間，也帶來算力資源的浪費。因此，保證集群訓練的穩定性至關重要，對集群建設提出更高的要求。這包括集群是否具備實時監測故障、斷點續訓、故障節點自動隔離等能力，以及在故障發生時是否能夠快速定位和迅速恢復。

2、數據質量和效率決定大模型的高質量發展之路

大模型性能和價值觀取決于高質量數據，但數據獲取、清洗、標注等工作面臨更大挑戰，需要更高效的AI數據管理流程以滿足大模型時代新需求。此外，大模型訓練和應用可能涉及用戶隱私和敏感數據，因此需要有效的數據治理手段來保障隱私和數據安全。

構建性能強大且價值對齊的大模型至關重要，而數據質量和效率是關鍵因素。由于不同來源的數據質量差異較大，包括重復、無效、虛假或敏感數據，這些問題會直接影響模型性能和產生的價值。為保障數據質量和價值對齊，需要對原始數據進行清洗、標注等預處理工作。傳統的“作坊式”數據處理方式已無法滿足大模型時代的需求，因此需要打造高效的“智能化數據處理流水線”以彌補傳統方式的高成本和低效率。

隨著生成式AI的使用，企業面臨更為突出的用戶隱私和數據安全問題。上傳企業代碼庫或以往營銷數據等操作可能涉及用戶隱私和企業核心機密，若不妥善保護可能導致嚴重數據泄露，對用戶和企業造成不可逆的損害。在大模型訓練和交互過程中，如何高效進行數據治理，隔離和保護上傳數據，成為亟需解決的問題。用戶選擇AI軟件供應商時，數據安全性是至關重要的參考指標。

3、大模型需要全新的 AI 平臺服務模式

大模型應用能夠幫助企業更高效率的實現商業目標，但對于絕大多數企業而言，自研大模型成本高且模型設計、訓練、調優等環節對開發人員專業能力要求較高。MaaS（Model as a Service大模型即服務）代表著一種全新的 AI云服務范式，其將大模型作為 AI 基礎設施的核心組成，以云服務方式提供給開發人員和企業進行更高效的工業化開發。目前，包括微軟、華為、百度、商湯等廠商均推出 MaaS 服務。

MaaS 平臺幫助企業更好的調用大模型能力

MaaS極大地加速了AI應用開發過程，提高創新迭代速度。該平臺將預訓練好的大模型與開發工具、數據管理等功能封裝在一起，使企業能夠在不從零開始自建大模型的情況下，迅速調用AI功能，縮短了新產品、新服務、新模式上線的時間，加速創新的迭代速度，提升企業的市場競爭力。

此外，MaaS降低企業的成本投入，推動AI與各行各業的深度融合。在AI 1.0時代，小模型的應用受限且開發成本高，AI在傳統行業的滲透率僅為4%。而大模型時代采用“基礎大模型+微調”的方法提高了場景適用性，同時MaaS模式降低了AI開發的成本和專業門檻，促使企業更積極地推進與業務相結合的AI創新，推動AI與行業的深度融合，提高了行業AI應用的滲透率。

此服務模式還促進了大模型生態體系的建立，推動大模型應用規?；涞?。MaaS主要由技術實力強、AI專家資源豐富的廠商提供，通過平臺的開放性和開源社區的參與，吸引更多企業和開發者參與，形成多元化的大模型應用開發生態，以滿足更廣泛、更細分場景的AI需求，從而推動應用規?；膶崿F。

四、新一代 AI 基礎設施的定義、特點和價值

AI 2.0時代需要重新構思基礎設施，以更精細化的設計和重構來支持大模型的訓練與推理，以及生成式AI應用的規模化落地。這一新一代AI基礎設施將以大模型能力輸出為核心平臺，綜合整合算力資源、數據服務和云服務，專注于最大程度提升大模型和生成式AI應用的性能。其關鍵要素包括數據準備與管理、大模型訓練、推理、模型能力調用以及生成式AI應用的部署。企業可以通過利用新一代AI基礎設施來開發和運行生成式AI業務和客戶應用程序，同時進行基模型和行業模型的訓練與微調。

新一代 AI 基礎設施主要由算力、MaaS 及相關工具構成

在實際應用中，廠商會提供圍繞大模型開發實踐的咨詢類服務，以解決用戶在訓練和使用大模型時面臨的技術問題。算力基礎設施方面，為大模型訓練和推理提供全面的計算、存儲等產品及服務，具有“大算力、高協同、強擴展”的基本特性。這包括由高性能異構集群組成的算力底座，具備高互聯的計算網絡、高性能的文件存儲和大規模的AI算力資源，以及具備強大的線性擴展能力，提供彈性靈活的云原生服務。

MaaS平臺層為大模型應用提供完整的服務和工具鏈體系，包括基礎大模型庫、大模型生產平臺、數據管理平臺、應用程序開發等。MaaS平臺層可以提供預構建的基礎大模型及API，一站式大模型開發工具及服務，AI原生應用開發工具，以及預構建的高質量數據集及AI數據管理服務，以滿足用戶在不同業務場景下的需求。這有助于降低客戶使用成本，加速大模型在不同行業領域的快速落地。

1、新一代 AI 基礎設施的主要特點

1）新一代 AI 基礎設施不是傳統云的 AI 化，兩者具有明顯定位和發展路徑的差別。新一代 AI 基礎設施主要面向產業用戶，為超大模型研發訓練、區域行業及應用孵化創新提供 AI 基座，并跟隨產業區域落地向周邊輻射，通過可持續運營帶動區域經濟智能化發展。

新一代 AI 基礎設施面對的是不同于傳統云的業務要求

智算中心以“建運一體”的方式，充分發揮基礎設施效益，不僅是AI基礎設施物理載體，更是集公共算力服務、數據開放共享、智能生態建設和產業創新聚集的綜合服務平臺。智算中心建設不僅要注重在產業生態為導向的規劃下進行，還需要強調對區域產業、科研等應用場景的支撐。選擇合理的建設和運營模式，并在建成后實現可持續運營，有助于幫助當地更好地消化算力資源，促進智能產業生態發展和AI人才培養。

在AI算力網絡布局上，采用“大中心+節點”模式，構建跨地域互補、協同調度的超大規模AI算力網絡。通過“大中心”布局低成本大規模算力集群，滿足萬億參數模型訓練與部署的需求；同時，在產業基礎好的區域落地算力節點，以滿足產業訓練和推理一體的算力需求。通過節點布局與大中心的聯動擴展，實現跨地域支撐訓推算力協同調度。

2、新一代 AI 基礎設施創造社會價值

新一代 AI 基礎設施降低大模型開發和應用的門檻，在政企服務、產業和科研創新等方面創造更大的社會價值。具體來看包括三方面：

新一代 AI 基礎設施賦能政務、產業和科研創新價值

1）政務智能化提升

“一模通辦”為政務服務注入大模型能力。通過整合分散的政務應用，使用性能強大、底座統一的大模型，實現“一模通辦”以提升地方政府治理能力。這推動了各類智能惠企和便民服務的高效實施，使企業和市民更輕松地享受城市公共服務。政務大模型在處理海量政務數據時能夠迅速洞察熱點事件，分析政策落地情況，為政策的制定和實施提供支持，從而提升社會治理水平。另外，統一的便民咨詢窗口通過政務大模型能夠準確快速地識別市民需求，提高政務服務效率。

2）產業創新激發

“大模型+MaaS”模式助力區域智能化。利用大模型激發區域產業創新，加速傳統產業智能化轉型。例如，在農業領域，結合遙感農業大模型實現農業技術的升級和推廣。同時，AI基礎設施賦能工業大模型的研發和應用，實現工業AI的規模生產。

3）科學研究賦能

“AI for Science”新范式推動科學發展。大模型技術在科學研究領域帶來重大突破，如在生物計算領域的AlphaFold2覆蓋98.5%的人類蛋白質組，以及全球中期天氣預報大模型“風烏”首次實現在高分辨率上對核心大氣變量進行超過10天的有效預報。大模型對原子運動、醫學圖像、天文圖像等進行預測和模擬，加速科學實驗的自動化和智能化，推動科學研究的新范式“AI for Science”取得更多突破。