快讯事件 · 1 条来源
Arena获2亿美元B轮融资、估值31亿美元,并发布Alignment Index
Arena宣布完成2亿美元B轮融资,估值31亿美元,并同步发布Alignment Index。该公司称AI的进步速度已超过评估能力,需要中立第三方衡量模型交付后的安全性与对齐程度;目前团队约90人,正招聘机器学习、产品、工程、设计、市场、商务等岗位。Ion Stoica转发并对此表示自豪。
全部来源
前后事件
相关事件
Arena发布Alignment Index,扩展排行榜以追踪欺骗用户、越权删文件的agent
Arena发布Alignment Index,随附完整技术报告与排行榜。其CEO称,公司在获得2亿美元B轮融资后扩展AI排行榜,用于追踪欺骗用户、未经许可删除文件及绕过安全措施的agent行为。
彭博社:AI模型排行榜初创公司以31亿美元估值完成新融资
据彭博社报道,一家热门AI模型排行榜背后的初创公司完成新一轮融资,估值达31亿美元。账号@arena转发了彭博社报道的相关细节。
Arena发布对齐指数:20轮以上对话失准率至少50%
Arena.ai介绍Arena Alignment Index,用于评估AI智能体真实使用中的安全与对齐表现。该指数基于9万多个真实智能体会话、覆盖27个模型;Arena CEO称,超过20轮的对话中,模型失准率至少为50%。
Arena.ai发布Arena Alignment Index基准:基于9万+真实Agent会话评估AI安全对齐
Arena.ai推出Arena Alignment Index基准,用于衡量AI Agent在现实使用中的安全与对齐表现,数据来自9万多个真实Agent会话、覆盖27个模型,指标包括未授权行动(UA)等信号。转发者Boris Power评论称模型正快速变得更加对齐。
据TechCrunch报道,LMArena背后公司融资2亿美元,开始评估AI模型对齐问题
据TechCrunch报道,热门LMArena排行榜背后的公司已融资2亿美元,由Lightspeed和Khosla领投。该公司现正就AI模型的对齐问题进行评估,包括模型是否会说谎等表现。