← 返回快讯

快讯事件 · 1 条来源

Whistle语音转文字模型走红Hugging Face Hub:16.9 MB对标Whisper base,主打端侧运行

ClementDelangue

据Victor M介绍,Hugging Face Hub上的Whistle模型仅16.9 MB,语音转文字能力可对标Whisper base,适合在端侧设备上运行。该帖由ClementDelangue转发。

全部来源

前后事件

相关事件

TRL v1.15发布:默认启用融合LM头,最长训练序列最高提升6.9倍

TRL v1.15发布,SFT、DPO、KTO、GRPO、RLOO和蒸馏默认启用融合LM头:通过Triton内核直接计算token级量,避免实例化巨大的[batch, seq, vocab] logits张量。以Gemma 3 1B(262k词表)为例,相同GPU下各算法最大序列长度最高提升6.9倍,8k上下文峰值显存降低52-82%,训练速度最高快约11%。发布方Lysandre表示,此优化无需额外启用,已是v1.15默认行为;该版本还包含SFT选择性激活检查点、视觉数据集assistant-only loss等更新。

ClementDelangue共 1 条来源