← 返回快讯

快讯事件 · 1 条来源

OpenAI数学问题开源为RL环境,Ofir Press推测其借Lean形式化规模化构建

ClementDelangue

Adithya S K表示,OpenAI数学问题现已开源为强化学习环境。Ofir Press推测,OpenAI或为数学问题创建了大量带Lean形式化的RL环境:起初手工构建较简单的环境,待模型能自主创建环境后,再基于arXiv论文扩展问题数量。

全部来源

前后事件

相关事件

TRL v1.15发布:默认启用融合LM头,最长训练序列最高提升6.9倍

TRL v1.15发布,SFT、DPO、KTO、GRPO、RLOO和蒸馏默认启用融合LM头:通过Triton内核直接计算token级量,避免实例化巨大的[batch, seq, vocab] logits张量。以Gemma 3 1B(262k词表)为例,相同GPU下各算法最大序列长度最高提升6.9倍,8k上下文峰值显存降低52-82%,训练速度最高快约11%。发布方Lysandre表示,此优化无需额外启用,已是v1.15默认行为;该版本还包含SFT选择性激活检查点、视觉数据集assistant-only loss等更新。

ClementDelangue共 1 条来源