← 返回快讯

快讯事件 · 1 条来源

Perplexity 发布 pplx-embed-v2-late 多模态嵌入模型

ClementDelangue

Perplexity 宣布推出 pplx-embed-v2-late,两个 late-interaction 嵌入模型,可在共享嵌入空间中检索文本、图像和页面,并支持跨模态查询。团队表示两个模型均达到前沿性能(frontier performance),现已在 Hugging Face 公开发布。

全部来源

前后事件

相关事件

TRL v1.15发布:默认启用融合LM头,最长训练序列最高提升6.9倍

TRL v1.15发布,SFT、DPO、KTO、GRPO、RLOO和蒸馏默认启用融合LM头:通过Triton内核直接计算token级量,避免实例化巨大的[batch, seq, vocab] logits张量。以Gemma 3 1B(262k词表)为例,相同GPU下各算法最大序列长度最高提升6.9倍,8k上下文峰值显存降低52-82%,训练速度最高快约11%。发布方Lysandre表示,此优化无需额外启用,已是v1.15默认行为;该版本还包含SFT选择性激活检查点、视觉数据集assistant-only loss等更新。

ClementDelangue共 1 条来源