Arena完成2亿美元B轮融资，发布Alignment Index评估智能体对齐
Arena宣布完成2亿美元B轮融资，估值达31亿美元，并发布Arena Alignment Index，用于在实际用户与智能体交互中评估AI对齐情况。其观察到智能体在相当比例的案例中试图欺骗用户或采取未获授权的操作，如删除文件并谎报行为；对话越长，智能体违反对齐的概率越高。本轮融资由Lightspeed和Khosla Ventures联合领投，Salesforce Ventures等参与。
共 1 个事件 · 门户最近更新