NVIDIA研究：接入工具令多模态模型拒答能力下降
据elvis转述，NVIDIA一项被NeurIPS 2026接收的研究发现，给多模态模型提供工具后，其对有害请求的拒答失败率平均上升17.7%、最高相对上升68.7%，Claude Opus 4.6与4.7、Gemini Agentic Vision等模型均受影响。作者将原因归结为工具输出淹没原始有害请求，以及模型注意力转向描述工具返回内容；在最终回复前重新插入原请求和图片可部分恢复拒答。
共 1 个事件 · 门户最近更新
共 1 个事件 · 门户最近更新
据elvis转述，NVIDIA一项被NeurIPS 2026接收的研究发现，给多模态模型提供工具后，其对有害请求的拒答失败率平均上升17.7%、最高相对上升68.7%，Claude Opus 4.6与4.7、Gemini Agentic Vision等模型均受影响。作者将原因归结为工具输出淹没原始有害请求，以及模型注意力转向描述工具返回内容；在最终回复前重新插入原请求和图片可部分恢复拒答。