深度原理 MPA 把 LLM 三段式訓練移植材料模型,40 個工業任務全取 SOTA
深度原理(Deep Principle)釋出材料基座模型 MPA(Materials Property Axiom),直接借用大語言模型預訓練/中期訓練/後訓練三段式配方做材料性質預測。
深度原理(Deep Principle)釋出材料基座模型 MPA(Materials Property Axiom),直接借用大語言模型預訓練/中期訓練/後訓練三段式配方做材料性質預測。消融對照顯示,完整流程在 40 個真實工業實驗資料集上,隨機劃分平均誤差較無中期訓練版本降低 14.0%,骨架劃分降低 14.6%,40 個任務中 38 個指標改善。
兩項核心創新均在訓練流程。其一:在預訓練與微調之間插入中期訓練(mid-training),以第一性原理計算資料執行「物理對齊」(physics-guided alignment),讓模型從辨識分子結構(鍵長、環形幾何)跨越到掌握生成焓、偶極矩等物理規律,補上理論計算到實驗數據的概念鴻溝。其二:後訓練採用 Hybrid Readout 混合頭,注意力池化路徑(適合沸點、生物活性等與分子大小無關的性質)與原子加和路徑(適合燃燒焓、熱容等逐原子累加的性質)並行,由可訓練參數 α 動態分配權重。
AI4S 模型在計算理論榜刷高分、進實驗室卻系統性失靈是長期痛點,根因在於訓練資料全是無噪聲的完美計算值,模型從未面對工業實驗的雜訊與任務特異性。MPA 的示範意義不在「材料版 AlphaFold」,而在於 LLM 社群打磨多年的訓練配方(尤其是用中等任務做概念對齊的 mid-training 邏輯)正在外溢到科學基座模型。這個 pipeline 的可複製性,比單一榜單數字更值得工程師拆解。


