人工智能行業專題研究：如何實現AGI，大模型現狀及發展路徑展望.pdf

人工智能行業專題研究：如何實現AGI，大模型現狀及發展路徑展望。目前大模型能力仍處于 Emerging AGI 水平，就模型成熟度而言，語言大模型>多模態大模型>具身智能大模型。根據 DeepMind 的定義，AGI 應能夠廣泛學習、執行復雜多步驟的任務。模型的 AGI 水平可分為 Level-0 至 Level-5 共 6 個等級，現階段大模型在處理任務的廣泛性上還有很大提升空間，即使是國際頂尖的大模型也仍處于 Level-1 Emerging AGI 階段。不同類型大模型成熟度差異較大，目前大語言模型能力相對完善，落地應用場景豐富，底層技 術路線較為成熟；多模態大模型已經能夠面向 B\C 端推出商業化產品，但細節優化空間較大；具身智能類大模型還在 探索階段，技術路線尚不清晰。 現階段討論 AGI 能力提升仍需聚焦于多模態大模型的訓練和應用。目前學界和業界重點關注 Scaling Law 的有效性， 以及模型算法的可能改進方向。

Scaling Law 仍有深入空間。根據 OpenAI 研究，隨模型參數量、數據集規模、訓練使用的計算量增加，模型性 能能夠穩步提高，即 Scaling Law。從訓練樣本效率、訓練時長、各類資源對模型的貢獻維度來看，目前 Scaling Law 仍是提高模型性能的最優方法。OpenAI 測算在模型參數量擴展到 88 萬億及之前，Scaling Law 依舊有效， 則中短期仍可延續此路線進行訓練。

模型骨干網絡架構尚未演變至終局，微調及稀疏結構成為提升模型性能的重要方法。目前主流大模型均采用 Transformer 作為底層骨干網絡，但針對編碼器\解碼器選擇、多模態融合、自注意力機制等方面的探索仍在持續 推進。微調使用更小的數據量、更短的訓練時間，讓模型能夠適應下游任務，以降低邊際落地成本。以 MoE 為 代表的稀疏結構通過分割輸入任務并匹配專家模型，能夠提高模型的整體性能。

開源模型性能優化速度快于閉源模型。我們認為，目前第一梯隊 AI 大模型紛紛進軍萬億參數，且不遠的將來大模型 將逐步逼近十萬億參數收斂值，對于本輪 AI 浪潮而言，找場景或優于做模型。在場景選擇方面，對“幻覺”容忍度 高且能夠替代人工的場景可實現應用率先落地，如聊天機器人、文本/圖像/視頻創作等領域；而對“幻覺”容忍度較 低的行業需要等待大模型能力提升或使用更多場景數據訓練。