行情
…

深度原理 MPA 把 LLM 三段式訓練移植材料模型,40 個工業任務全取 SOTA

深度原理(Deep Principle)釋出材料基座模型 MPA(Materials Property Axiom),直接借用大語言模型預訓練/中期訓練/後訓練三段式配方做材料性質預測。

深度原理 MPA 把 LLM 三段式訓練移植材料模型,40 個工業任務全取 SOTA

深度原理 MPA 把 LLM 三段式訓練移植材料模型,40 個工業任務全取 SOTA

深度原理(Deep Principle)釋出材料基座模型 MPA(Materials Property Axiom),直接借用大語言模型預訓練/中期訓練/後訓練三段式配方做材料性質預測。消融對照顯示,完整流程在 40 個真實工業實驗資料集上,隨機劃分平均誤差較無中期訓練版本降低 14.0%,骨架劃分降低 14.6%,40 個任務中 38 個指標改善。

兩項核心創新均在訓練流程。其一:在預訓練與微調之間插入中期訓練(mid-training),以第一性原理計算資料執行「物理對齊」(physics-guided alignment),讓模型從辨識分子結構(鍵長、環形幾何)跨越到掌握生成焓、偶極矩等物理規律,補上理論計算到實驗數據的概念鴻溝。其二:後訓練採用 Hybrid Readout 混合頭,注意力池化路徑(適合沸點、生物活性等與分子大小無關的性質)與原子加和路徑(適合燃燒焓、熱容等逐原子累加的性質)並行,由可訓練參數 α 動態分配權重。

AI4S 模型在計算理論榜刷高分、進實驗室卻系統性失靈是長期痛點,根因在於訓練資料全是無噪聲的完美計算值,模型從未面對工業實驗的雜訊與任務特異性。MPA 的示範意義不在「材料版 AlphaFold」,而在於 LLM 社群打磨多年的訓練配方(尤其是用中等任務做概念對齊的 mid-training 邏輯)正在外溢到科學基座模型。這個 pipeline 的可複製性,比單一榜單數字更值得工程師拆解。

→

繼續閱讀

查看全部 →
NewsAI 快訊

LegalOn 如何砍 65% Codex 成本?按任務路由 Astra/Sol/Luna 的做法

LegalOn 把 Codex 的 Astra、Sol、Luna 按任務分工,日費估算砍 65%、速度持平

DeltaMedia 編輯部2 分鐘
NewsAI 快訊

用 AI agent 自己蒸餾小模型:16 美元做一個 0.8B 模型的完整做法

2026 年 10 月 8 日,Hugging Face 部落格記錄一位開發者透過 ML Intern 將 Qwen-Image 2.1 的 9B 提示詞改寫器蒸餾成 0.8B 版本,從下達需求到取得可部署模型只花了一天。

DeltaMedia 編輯部5 分鐘
NewsAI 快訊

AI 推理成本為何史上下降最快?Epoch 數據與 20 億 AI agent 的算力帳

截至 2027 年出貨的 AI 晶片,理論上可同時支撐 3000 萬至 1.7 億個前沿模型智慧代理不間斷執行,換算全職工時約等同於 1.4 億至 7.2 億名全職員工

DeltaMedia 編輯部6 分鐘
NewsAI 快訊

AI 算力狂飆可養活 20 億個 agent,但市場真有這麼大需求?

Epoch AI 研究顯示,截至 2027 年出貨的 AI 晶片可支援 3000 萬至 1.7 億個前沿模型 agent,若改用低成本模型則可達近 20 億個,但需求是否存在仍是開放問題。

DeltaMedia 編輯部7 分鐘