量化專題報告：從增量學習到元學習，深度學習訓練新框架.pdf

量化專題報告：從增量學習到元學習，深度學習訓練新框架。增量學習對傳統的批量學習提升效果不大。增量學習是指在現有模型的基 礎上，通過加入新的數據來更新模型的過程。與傳統的批量學習不同，增量學 習可以更好地適應數據的變化，同時也更加高效，因為只需要處理新增的數據 而無需重新訓練整個模型。在股票趨勢預測的增量學習中，我們通過一系列增 量任務來逐步更新模型參數。在每個任務中，我們使用增量數據來微調模型參 數，并在測試數據上進行預測并評估模型性能。用這樣的方法在 LSTM 深度神 經網絡上進行訓練，IC 從 3.6%提升到了 4.2%，提升效果不大。

元學習旨在學習一個機器學習模型的設定，使得這一模型在所有的訓練任 務中表現最好。一個典型的元學習模型 MAML（Model-Agnostic MetaLearning），即“模型無關的元學習”是 17 年發表在機器學習頂級會議 ICML 上的一種通用優化算法，適用于任何基于梯度學習的模型。MAML 旨在為基模 型提供初始化參數，以便面對新任務時能快速學習。用 MAML 對機器學習模型 進行適應，應用至增量學習訓練框架中，可以顯著提升預測因子 IC，LSTM 模 型因子的 RankIC 從 4.2%提升至 6%，效果明顯。

雙步適應訓練框架對數據與模型都進行元學習，來適應新的在線任務場 景。傳統的增量學習存在的問題是，在線場景中，新數據會不斷到來，而增量 數據與歷史數據可能具有不同的聯合分布，包括條件分布和協變量分布的變 化。若數據分布變化較快，則增量學習無法適應。用數據適應器對數據分布進 行適應可以解決這一問題。數據適應器也是一種元學習器，包含 2 個對于訓練 數據進行線性變化的函數，用來學習怎樣調整訓練數據的分布才能更好的適應 分布變化，以獲得更好的預測準確率。將數據適應器和模型適應器即 MAML 一 起使用，形成雙步適應訓練框架 DA，可進一步提升預測效果。

雙步適應訓練框架對傳統深度學習模型都有提升。實證表明，雙步適應訓 練框架 DA 對于市場中流行的深度神經網絡 LSTM 和 GRU 都有明顯提升。若只 用模型適應器 MAML，可以顯著提升預測因子 IC，但多頭端收益提升不明顯。 在加入數據適應器后可以顯著提升因子多頭端組合表現，其中 LSTM_DA 因子 多頭組合在中證 500 內年化收益 14%，年化超額收益 17.6%，信息比率 2.37， 表現優秀。