← 返回快讯

快讯事件 · 1 条来源

Cloudflare发布clef-omni多模态模型,clef速度提升约2倍

ClementDelangue

据michelle发布的推文,Cloudflare推出多模态模型clef-omni,支持音频、视频、图像和文本输入;同时clef-flash价格已低于jev,clef整体速度提升约2倍。该消息经ClementDelangue转发。

全部来源

前后事件

相关事件

TRL v1.15发布:默认启用融合LM头,最长训练序列最高提升6.9倍

TRL v1.15发布,SFT、DPO、KTO、GRPO、RLOO和蒸馏默认启用融合LM头:通过Triton内核直接计算token级量,避免实例化巨大的[batch, seq, vocab] logits张量。以Gemma 3 1B(262k词表)为例,相同GPU下各算法最大序列长度最高提升6.9倍,8k上下文峰值显存降低52-82%,训练速度最高快约11%。发布方Lysandre表示,此优化无需额外启用,已是v1.15默认行为;该版本还包含SFT选择性激活检查点、视觉数据集assistant-only loss等更新。

ClementDelangue共 1 条来源