← 返回快讯

快讯事件 · 1 条来源

作者发布大规模 agentic LLM 推理数据集:206B tokens、12002 个会话

ClementDelangue

转发推文作者称已发布迄今最大的 agentic LLM 推理数据集,规模为 206B tokens、12002 个会话、1186582 次 LLM 请求、1213347 次工具调用。作者表示,轨迹数据包含工具名称、参数、耗时等信息,数据集已在 Hugging Face 上线,论文即将发布,更多信息见 opendata.agentic-system.org。

全部来源

前后事件

相关事件

TRL v1.15发布:默认启用融合LM头,最长训练序列最高提升6.9倍

TRL v1.15发布,SFT、DPO、KTO、GRPO、RLOO和蒸馏默认启用融合LM头:通过Triton内核直接计算token级量,避免实例化巨大的[batch, seq, vocab] logits张量。以Gemma 3 1B(262k词表)为例,相同GPU下各算法最大序列长度最高提升6.9倍,8k上下文峰值显存降低52-82%,训练速度最高快约11%。发布方Lysandre表示,此优化无需额外启用,已是v1.15默认行为;该版本还包含SFT选择性激活检查点、视觉数据集assistant-only loss等更新。

ClementDelangue共 1 条来源