在中國，隨著資源高效型大語言模型的快速發展和人工智能（AI）基礎設施市場的不斷拓展，許多企業都迫切希望部署生成式人工智能（GenAI）。Gartner預測，到2027年，中國80%的企業將使用多模型GenAl策略來實現各種模型功能、本地部署需求和成本效益。到2028年，中國90%的企業將托管而非自建AI基礎設施，以實現更高的可擴展性、成本效益和運營靈活性。
Gartner研究總監張吟鈴表示：“DeepSeek R1等模型由于減少了訓練所需的算力，吸引了中國市場的廣泛關注。與其他同類模型相比，蒸餾模型能夠在資源受限的條件下有效地進行推理。此類開放權重的模型吸引了大量的企業和IT服務提供商——他們希望以較低的投資獲得高性能模型。”
根據2025年Gartner 首席信息官（CIO）和技術高管調研，GenAl是CIO計劃部署的頭號新興技術，90%的中國受訪者將增加在這方面的投資。雖然大語言模型的采用將在2~5年內成為主流，但各企業將根據具體用例使用多種GenAI模型，包括大語言模型、多模態模型和領域特定模型。
今年年初，重視數據隱私安全及缺乏AI技能的企業機構，使用生成式人工智能一體機在本地快速部署了大語言模型的用例。但是，使用一體機僅能滿足一時的需求，在未來由于成本、上市敏捷性和可擴展性等原因，不可能在本地托管所有的GenAI用例。因此，中國的CIO以及基礎設施和運營（I&O）領導者必須注意以下三大影響，確保GenAl部署的可靠性、安全性、可擴展性和及時性。
生成式人工智能一體機將對中國企業產生短期影響
生成式人工智能一體機旨在為AI開發和部署提供綜合解決方案，對中國市場來說也非全新產品。這些結合了硬件和軟件的集成系統已經上市了一段時間，模型和硬件制造商去年就推出過此類產品。然而，由于大語言模型訓練和推理需要強大的算力，加上企業仍在探索實用的GenAI用例，使得最初采用面臨挑戰，阻礙了大量投資。
根據企業可用的模型規模、芯片類型和性能需求，一體機市場提供了多種選項。不同一體機的價格差異巨大，主要體現在算力、存儲和網絡接口等硬件差異上，而整體封裝架構則大體類似。但并非所有提供商都提供從基礎設施到應用層的全棧式開箱即用解決方案。有些提供商只關注基礎設施，而其他則涵蓋AI開發工具和針對特定需求的自定義AI解決方案，提供“開箱即用”的體驗。不同解決方案的定價差異很大，從數十萬到數百萬元人民幣不等，具體取決于架構的深度。
張吟鈴表示：“模型迭代、算法改進、硬件更新和AI應用需求的快速增長，將給一體機的性能和生命周期管理支持帶來壓力。中國企業往往避免依賴單一提供商；為滿足合規要求，傾向于選擇不依賴特定廠商的品牌，這可能導致企業未來購買服務器時選擇不同的品牌。盡管有類似的架構，但不同提供商之間的內部組件有所不同，給維護帶來挑戰。使用中立軟件管理多臺計算機是一個選項，但可能會浪費每臺計算機原生軟件自帶的資源。”
企業需要探索可用的基礎設施托管選項
基于監管要求和對數據安全的擔憂，對GenAI工作負載托管位置的決策變得更加復雜。由于監管義務或內部安全要求，某些企業必須將GenAI工作負載部署在本地。出于數據安全考慮，許多中國企業對使用公有云進行模型微調或通過MaaS部署GenAI應用持謹慎態度，更傾向于在私有環境中部署軟件和模型。
張吟鈴表示：“無論采用何種部署方法，可靠的安全措施和配置都至關重要。本地部署不一定需要從頭開始構建數據中心，有多種托管數據中心選項可供選擇。該戰略的一個關鍵組成部分是了解可用的基礎設施托管選項。企業必須在眾多可對安全性、技術專業知識和運營工作產生影響的選項中做出選擇。”（見表1）
表1：基礎設施托管選項與所有權和工作量示例
評估GenAl采用路線圖，根據用例標準選擇最佳部署位置
在了解了所有基礎設施選項及其影響之后，I&O團隊需要與安全、數據、應用和AI團隊協作，進行部署戰略規劃。通過執行以下步驟，企業可以制定長期GenAI工作負載部署圖（見圖1）。
圖1：GenAI⼯作負載部署圖⽰例
對于希望在部署和擴展GenAI解決方案方面取得持續成功的企業來說，一個定義明確且全面的基礎設施戰略必不可少。
