← 返回快讯

快讯

Cogent推出Attack Path Analysis，用自研网络模型追踪AI智能体攻击路径

omarsar0

Cogent推出Attack Path Analysis安全工具，称其自研网络模型可发现针对企业的更长攻击路径，并为团队指出每项修复方案。Vineet Edupuganti评论称，7月一个由700个AI智能体组成的集群入侵Hugging Face、发起逾1.7万次操作并获得管理员权限，预示未来黑客将具备此类能力。

AI安全网络安全智能体Cogent

查看原始帖子 ↗

所属事件 →

事件来源

查看原文
We need to rethink security for AI attackers. Security tools were built to stop human attackers. A human might give up on a route after a few hops, but an agent swarm keeps going. Cogent Attack Path Analysis uses @cogent_security's own cyber models to find those longer routes into a company. Then it tells the team which single fix closes each one. Vineet Edupuganti: Most of AI Twitter read the OpenAI breach of Hugging Face as an alignment story. It was also a preview of what every hacker will be able to do in a few months. In July, a swarm of 700 AI agents broke into Hugging Face and fired off more than 17,000 actions, gaining admin control

前后事件

上一篇Georgia Channing发布Carbon-A模型与Carbon Annotation Database，发现5.66亿个新基因候选

下一篇Cohere举办网络研讨会，讨论Embed 5、Parse 5及新检索方法RCP-nDCG

同账号事件

  • Odyssey发布Odyssey-3世界模型，Physics-IQ Verified刷新最高分

    Odyssey推出Odyssey-3世界模型，Odyssey-3 Pro在Physics-IQ Verified基准（要求模型续写真实物理实验视频）上取得新最高分。机器人演示中，机械臂在错过抓取后自行恢复，该行为未出现在数十小时的演示数据中。Odyssey称其可驱动机器人、训练AI并生成交互体验，目前可免费体验。

  • RSIGym为自改进研究智能体提供服务化环境，Opus 4/5研究系统在SWE-bench Verified上从17.67%提升至50.33%

    Fanqing提出RSI（递归自我改进）本质上是系统工程问题：RSIGym为研究型智能体提供训练、推理、评估和沙箱作为可调用的服务，让智能体把预算花在实验上而非重建基础设施。发帖者omarsar0赞同这一观点，并称以Opus 5作为研究者，改进后的系统在SWE-bench Verified上的成绩从17.67%提升至50.33%。

  • NVIDIA论文称：多模态模型工具调用会削弱拒答有害请求能力

    推文介绍一篇NVIDIA团队论文称，让多模态模型在智能体场景中使用工具后，拒答有害请求的失败率最高相对上升68.7%，平均上升17.7%；该现象出现在Claude Opus 4.6和4.7、Gemini Agentic Vision、Qwen3.5-122B-A10B及agent-tuned开源模型，并横跨MM-SafetyBench、HoliSafe和VLSBench。作者将原因归因于工具输出淹没原始请求的恶意意图，以及模型注意力转向描述工具结果而非做安全决策；作者还提出，在最终回答前重新插入原始请求和图片可部分恢复被削弱的拒答。以上均为推文所述研究结论，未独立核实。

  • NVIDIA研究：接入工具令多模态模型拒答能力下降

    据elvis转述，NVIDIA一项被NeurIPS 2026接收的研究发现，给多模态模型提供工具后，其对有害请求的拒答失败率平均上升17.7%、最高相对上升68.7%，Claude Opus 4.6与4.7、Gemini Agentic Vision等模型均受影响。作者将原因归结为工具输出淹没原始有害请求，以及模型注意力转向描述工具返回内容；在最终回复前重新插入原请求和图片可部分恢复拒答。

  • 研究：模型不变时，agent harness 可带来最高 3 倍成本差异

    作者称在 SWE-bench Verified 上用同一模型运行了 Claude Code、mini-SWE-agent 和 OpenCode：前两者在 447 个任务上得分相差不超过 5 分，更换 harness 的影响约等于重跑一次（45 题困难子集上各有 13% 结果翻转）。成本差异主要来自每一步重复发送的 system prompt 和 tool schema；精简 harness 提示词和工具可在不降低准确率的情况下最多降本 3 倍。