小米大模型團隊近日通過其官方公眾號“Xiaomi MiMo”宣布了一項重要決定：正式開源專為推理任務定制的大模型——Xiaomi MiMo。這款模型在多項公開測評中，如數(shù)學推理和代碼競賽，均展現(xiàn)出了卓越的性能，尤其值得注意的是，它僅以7B參數(shù)就超越了OpenAI的o1-mini（閉源）以及阿里Qwen的QwQ-32B-Preview（開源），后者規(guī)模更為龐大。

MiMo之所以能在推理能力上取得如此顯著的成就，關鍵在于其在預訓練和后訓練階段所采取的創(chuàng)新策略。在預訓練階段，團隊精心挑選并合成了大量富含推理信息的語料，總量達到了約200B tokens。通過分三個階段逐步提升訓練難度，MiMo累計接受了25T tokens的訓練，這一過程極大地豐富了模型對推理模式的認知，為其強大的推理能力奠定了堅實的基礎。

在后訓練階段，MiMo團隊更是引入了高效且穩(wěn)定的強化學習算法和框架，以進一步提升模型的推理性能。他們創(chuàng)造性地提出了Test Difficulty Driven Reward（測試難度驅動獎勵）機制，這一機制有效地緩解了困難算法問題中獎勵稀疏的難題。同時，他們還引入了Easy Data Re-Sampling（簡單數(shù)據(jù)重采樣）策略，以確保強化學習（RL）訓練過程的穩(wěn)定性。

為了進一步提高訓練效率，MiMo團隊還設計并實現(xiàn)了Seamless Rollout（無縫展開）系統(tǒng)。這一系統(tǒng)使得RL訓練的速度提升了2.29倍，驗證速度也提高了1.96倍，從而大大縮短了模型的開發(fā)周期。

Xiaomi MiMo的開源，無疑為推理任務的大模型研究注入了新的活力。它以其卓越的性能和創(chuàng)新的技術，為行業(yè)樹立了新的標桿，也為廣大開發(fā)者提供了寶貴的學習和研究資源。