← 返回快讯

快讯

MiMo 2.6 Flash 实测:跨 RTX 6000 与 M5 笔记本异构运行,40 tokens/sec

huggingface

作者 Pedro Cuenca 发文称,他可以在 RTX 6000 GPU 和 M5 笔记本电脑之间跨异构硬件运行 MiMo 2.6 Flash,速度达 40 tokens/sec,通过 10 GbE 连接。他称使用的是该模型的原生 mxfp4 权重,并已被 llama.cpp 开箱支持。以上为作者自述的实测结果,未经独立核实。

所属事件 →

事件来源

查看原文
RT Pedro Cuenca It's crazy that I can run MiMo 2.6 Flash across my RTX 6000 GPU and my M5 laptop at 40 tokens/sec over 10 GbE 🤯 These are the native mxfp4 weights of a state-of-the-art model, on heterogeneous hardware. Supported out of the box in llama.cpp.

前后事件