罗福莉沉寂半年官宣小米强化学习!直播新模型训练过程,一小时烧3万美元
小米MiMo大模型负责人罗福莉在沉寂近半年后,公布小米在强化学习方向的最新进展,并直播MiMo-V2.6的Flash和Pro两款模型训练过程。直播页面公开训练成本、步数、奖励曲线及显卡故障等信息。训练约36小时,两款模型花费超108万美元,平均每小时3万美元。目前两款模型均处训练初期,RL能力已有提升:Pro的dynsam/avg@n从约0.565升至0.614,Flash从约0.514升至0.603。小米称过去半年集中研究强化学习可扩展性,沿训练计算量、环境与执行框架、评分计算量三个维度扩展。
本文摘要由千智坊基于公开报道整理,查看完整内容:阅读原文(量子位)→
