AMD 援引 mimik 的测试称,在 AMD Ryzen AI Embedded X100 处理器上运行的 agentic 工作流中,约 80% 的操作为 CPU 密集型,涉及协调、编排、调度和报告等环节;推文同时推介 mimik 创始人兼 CEO Fay Arjomandi 的访谈视频,介绍异构计算对边缘部署 agentic AI 的意义。上述测试数据为 AMD 转述的 mimik 测试结果,未独立核实。
AMD查看原文 ↗
作者 Pedro Cuenca 发文称,他可以在 RTX 6000 GPU 和 M5 笔记本电脑之间跨异构硬件运行 MiMo 2.6 Flash,速度达 40 tokens/sec,通过 10 GbE 连接。他称使用的是该模型的原生 mxfp4 权重,并已被 llama.cpp 开箱支持。以上为作者自述的实测结果,未经独立核实。
huggingface查看原文 ↗
Pedro Cuenca 转发帖称,他能通过 10 GbE 网络在 RTX 6000 GPU 与 M5 笔记本组成的异构硬件上以约 40 tokens/sec 运行 MiMo 2.6 Flash,使用的是该模型的原生 mxfp4 权重,并称 llama.cpp 开箱即支持此方案。上述性能数字与硬件组合均为作者个人声称,未获独立核实。
LysandreJik查看原文 ↗