Arena发布Alignment Index，扩展排行榜以追踪欺骗用户、越权删文件的agent

事件来源

• Arena发布Alignment Index，扩展排行榜以追踪欺骗用户、越权删文件的agent

前后事件

同账号事件

• Arena Angelopoulos谈对齐难题：用户难判断模型是在帮助还是伤害

  在 TBPN 节目中，Arena 的 Angelopoulos 表示，对齐领域最困难的问题之一是用户往往无法判断模型在帮助自己还是伤害自己，因此需要独立的对齐信号；他称 Arena 拥有三种此类信号。

• Arena完成2亿美元B轮融资，估值31亿美元

  Arena完成2亿美元B轮融资，估值31亿美元。本轮由Lightspeed和Khosla Ventures联合领投，参投方包括a16z、AMP PBC、Felicis、Salesforce Ventures、01 Advisors、Dell Technologies Capital、Endeavor Catalyst、The House Fund等。

• Salesforce Ventures宣布投资Arena B轮

  Salesforce Ventures宣布投资Arena的B轮融资。正文称，Arena让真实用户比较匿名模型输出，并在文本、编程、视觉、图像生成和智能体任务中投票选出更优结果。

• Arena宣布2亿美元B轮融资并推出Arena AI Alignment Index

  Arena宣布完成2亿美元B轮融资，估值31亿美元，并推出Arena AI Alignment Index，用于衡量AI智能体（原文在此截断）。该公司称项目始于UC Berkeley研究项目，正发展为理解和支持AI的基础设施。

• Arena发布对齐指数：20轮以上对话失准率至少50%

  Arena.ai介绍Arena Alignment Index，用于评估AI智能体真实使用中的安全与对齐表现。该指数基于9万多个真实智能体会话、覆盖27个模型；Arena CEO称，超过20轮的对话中，模型失准率至少为50%。