LM247x24 AI大模型动态

·百灵大模型·中文

Ring-Zero:万亿参数大模型强化学习

我们在探索中发现,以往在小模型上过度复杂的方法在此往往失效,在万亿尺度下,这些算法优化不仅徒劳,甚至会因严重损害训练稳定性而产生负面影响。 为此,我们提出了一套自迭代训练方案,并成功训练出 Ring-2.5-1T-Zero。

阅读原文

返回快讯列表