Gyro-M 是 Qwen3.8-Flash-Next-Gyro 的中等规模版本,可以在一块 16GB 显卡上运行,并且通过了一套六项实战编程测试中的每一项任务。在长上下文检索和一项 Python 编程基准上,它的得分也接近满分。不过,更小的 Gyro-S 同样完成了其中大部分项目,结果相近,所以要不要换,更多取决于你的硬件,以及你有多看重工具调用的可靠性,而不是成品代码的质量。

测试平台:16GB 显存与 64GB DDR4

被测模型文件是 Qwen3.8-Flash-Next-Gyro-M-TQ2_0.gguf,一个 9.2 GB 的量化版本。量化是对模型权重进行压缩,让模型能装进更小的内存。该文件通过模型服务框架 Strata 在本地运行,上下文窗口为 128k token。

推理硬件代表的是 16GB 级别的本地配置:

系统内存升到 64GB 有一个明确的原因:这样 Strata 可以把大模型一直留在内存里,不必把上下文卸载到 SSD 上。

速度:预填充与解码

本地模型用起来快不快,由两个数字决定。预填充(prefill)是模型读取提示词的速度,解码(decode)是模型写出回答的速度。

冷启动预填充指没有任何缓存的情况,速度随提示词变长而上升:

提示词长度 冷启动预填充(token/秒)
512 token 354.4
2k token 633.8
8k token 941.3
16k token 1,002.0
32k token 1,025.0

如果提示词已经处理过并存入键值缓存,预填充会快得多。带缓存的预填充在 512 token 的提示词上从每秒 2,645.2 token 起步,在 32k 提示词上达到每秒 96,123.8 token。

解码速度在这块 16GB 显卡上保持稳定。256 token 的短生成速度为每秒 54.9 token,8k 的生成为每秒 48.2 token,整轮测试的汇总成绩单给出的解码速度是每秒 57.8 token。

记忆与推理

长上下文检索

“大海捞针”测试把一个通行密钥藏在一篇很长的文档里,要求模型把它找出来。这里的测试覆盖 125,536 个上下文 token,共 15 次试验,密钥分别放在文档 0%、25%、50%、75% 和 100% 的深度位置。

Gyro-M 用 3 分 48 秒通过了全部 15 次试验,每个深度的得分都是 100%。75% 深度看起来是最难的区域,因为模型在这里给出正确答案之前,产生的内部推理过程明显更长。

逻辑与概率

推理基准包含 48 道逻辑与概率题,分为四个难度等级。Gyro-M 通过了其中 41 道,即 85.4%,平均延迟 3,889 毫秒,总运行时间 3 分 6 秒。

等级 通过数 通过率
简单 12 题中 12 题 100%
中等 12 题中 12 题 100%
困难 12 题中 11 题 91.7%
专家 12 题中 6 题 50.0%

从这个分布看,它的通用逻辑能力很强,但在最高等级上有明显的上限。50% 的专家级得分对本地模型来说算不错,不过和前沿商业模型相比并不突出。

HumanEval Remix:100 题只错 1 题

HumanEval Remix 是一组 100 道 Python 编程题。Gyro-M 回答了全部 100 题,其中 99 题一次做对,通过率 99%。整轮测试耗时 18 分 30 秒,平均每题延迟 11,101 毫秒。

一个手持写字板的人面对一面十乘十的发光方块墙,靠近角落处有一块方块是暗的

▲ 100 道编程题中的唯一失误

只失误一次是相当亮眼的成绩。这也说明,这项基准对顶级本地模型来说可能已经偏简单,在 Qwen 4 等下一代模型到来之前,或许需要换上更难的题目。

六项实战任务:与 Gyro-S 对比

基准测试能说明的问题有限,所以这套测试还包含六项构建任务。Gyro-M 六项全部通过。这里真正有用的衡量标准,是每个模型需要多少帮助。有两个术语需要先说明:压缩(compaction)是指会话把较早的上下文浓缩起来以腾出空间的节点;上下文占用率是指上下文窗口中已使用部分的比例,会话日志按 131k token 计算这个窗口。

工作台上摆着六个微缩模型:桌子、沙盒、石头迷宫、提灯、平台和村庄

▲ 六项实战编程挑战

任务 Gyro-M Gyro-S
活动座位规划器 0 次压缩,上下文占用 57.5%,无需额外提示词 2 次压缩,上下文占用 42%,缺少同桌宾客拖拽功能
Sand Physics 2.0 1 次压缩,上下文占用 62.3% 0 次压缩,上下文占用 84%,测试超时卡住后追加一次提示词
Dungeon Crawler 2.0 2 次压缩,上下文占用 59%,无需额外提示词 2 次压缩,上下文占用 81%
Blender 提灯 2 次压缩,上下文占用 53.5%,无需额外提示词 1 次压缩,上下文占用 49%,截图时 Blender 反复崩溃
Godot 3D 平台跳跃游戏 6 次压缩,上下文占用 55.8%,一次纠正提示词 5 次压缩,上下文占用 81%
渔村微缩场景 3 次压缩,上下文占用 71.7% 未报告

活动座位规划器

这个网页应用允许用户添加桌子、拖动桌子,并把宾客在同一张桌子的座位之间或不同桌子之间移动。它带有检查器侧边栏、宾客搜索、按家人、VIP、工作人员等宾客类别筛选、Toast 通知,以及深色和浅色主题切换。49 项 npm 测试全部通过,零失败。Gyro-M 用了约 75.6k token,全程无需干预。这是它最明显的一次胜出:Gyro-S 的版本无法在同一张桌子内拖动宾客。

Sand Physics 2.0

这个浏览器模拟程序要模拟下落的沙子、水、浮在水面上的油、墙壁、能烧掉油层的火,以及把水煮成蒸汽的岩浆。Gyro-M 经过一次压缩后完成,用了 131k 中的 82.1k token。Gyro-S 不需要压缩,但在一次测试运行因超时卡住时,需要追加一次提示词。两个模型在这项任务上大致打平。

Dungeon Crawler 2.0

这款 2D 俯视角游戏具备实时光线投射、动态光照、战争迷雾和小地图。玩家损失生命值时,可见的光照半径会缩小,火把可以让它恢复。玩家必须找到钥匙、打开门并逃出去。Gyro-M 在没有额外提示词的情况下,把整个游戏写成了一个独立的 1,679 行 HTML 和 JavaScript 文件。两个模型做出的游戏看起来和玩起来都一样,但 Gyro-M 的上下文开销更低。

通过 MCP 制作 Blender 提灯

模型上下文协议(Model Context Protocol,MCP)是一种把模型与外部工具连接起来的协议。通过 MCP,Gyro-M 在 Blender 中建出一盏华丽的奇幻风格提灯,布置好灯光和摄像机,并自行完成多角度渲染。成品几何结构干净,有金色的框架、青绿色调的玻璃面板、发光的灯芯和悬浮的粉色水晶。

Gyro-S 的提灯同样合格,框架更粗短,光照更暗。哪一个更好看见仁见智,不过 Gyro-M 的比例和玻璃着色看起来更精致。实际的差别在于稳定性:同样的 MCP 工具调用,在 Gyro-M 下没有出现一次崩溃,而 Gyro-S 那一轮在截图时让 Blender 反复崩溃。这说明 Gyro-M 处理工具调用顺序更可靠,至少在这一轮里是这样。

Godot 3D 平台跳跃游戏

要求最高的任务是用 Godot 4.1 做一款完整的 3D 游戏,包含移动平台、悬浮的钥匙、带重生机制的危险坑洞、检查点和终点。Gyro-M 做出的版本符合要求:拿到钥匙后计数器增加,靠一个往返平台和一部升降梯可以够到其余钥匙,检查点会保存进度,拿到第三把钥匙后终点解锁。表面重叠的地方有轻微的深度冲突(Z-fighting)瑕疵。

这项任务需要一次纠正提示词。第一版屏蔽了鼠标视角控制,而且即使玩家站着不动,镜头也会快速上下晃动。Gyro-M 在 GDScript 中修好了这两个问题:给头部晃动偏移加上低通滤波,并对随速度变化的晃动节奏做了限幅。Gyro-S 也做出了完整的游戏,带有很重的泛光效果。

渔村微缩场景

一个实验性的 Three.js 场景用来测试不设约束的设计能力。Gyro-M 搭出了彩色的房屋、木质栈桥、小船、岸边的水面着色器和在头顶盘旋的海鸥,全程没有中途引导。屋顶的几何结构有些凌乱,也没有对齐,这反映出开放式的建筑类任务仍然很难。

搭建类似环境的实用建议

  • 在 Strata 中用 16GB GPU 运行 Gyro-M 时,选择 TQ2_0 文件。
  • 可以考虑配 64GB 系统内存,这样 Strata 在长会话中不会把大段上下文推到 SSD 上。
  • 在会运行自动化测试的编程提示词里写明超时指令,避免测试运行器卡住时拖住整个会话。
  • 通过 MCP 把模型接入 Blender 时,要确保工具在超时和崩溃时返回可恢复的错误信息,而不是阻塞整条流程。
  • 评判不同规模的模型,要看你实际的开发工作,而不是只看推理分数。

该不该从 Gyro-S 换到 Gyro-M?

Gyro-M 的分数更高:长上下文检索 15 次全对,推理 85.4%,HumanEval Remix 99%,构建任务六项全过。它在好几个项目上占用的上下文也更少,并且跑完 Blender 工具链没有出现崩溃。

不过就成品代码而言,差距很小。Gyro-S 完成了地牢探索游戏、沙子模拟和 Godot 游戏,结果相当,它明确的短板只有缺失的一项拖拽功能和 Blender 崩溃。

比较合理的判断是:

  • 如果你已经有 16GB 显存和足够的系统内存,Gyro-M 值得一试,尤其适合 MCP 工具调用和长时间的自主会话。
  • 如果你的显存或算力比较紧张,就继续用 Gyro-S。它能处理几乎相同的开发任务,这里也没有任何迹象表明你需要添置新硬件。
  • 无论哪种情况,做决定之前都先用自己的一个项目把两个模型都跑一遍。

此外还有更大的 Gyro-L 版本,但这个级别的硬件能不能跑得动,仍是一个未知数。