Databricks 介绍 Omnigent 策略：在动作执行前管控智能体成本与风险
Databricks 发文介绍其 Omnigent 策略：通过在动作发生前进行检查，控制智能体的开销与行为。据其描述，策略可设置花费上限、限制工具使用，并在整个会话中累积跟踪风险，达到阈值时要求下一次动作需经批准。文末附有官方博客与 GitHub 实验仓库链接。
共 2 条快讯 · 门户最近更新
AI 安全入门课程上线 Coursera，免费开放
作者宣布"Introduction to AI Safety"课程已在 Coursera 发布。作者称这是一门免费课程，内容涵盖：当今 AI 的能力及推动其进步的驱动因素；主要风险，包括恶意使用、竞争压力和失控；以及用于缓解 AI 风险治理策略。