Inkling 2 Mini:可在笔记本上运行的层循环模型
笔记本开启飞行模式,仍能做出可玩的飞行模拟游戏
断网、开启飞行模式的笔记本,只用几分钟就做出了一个可玩的飞行模拟游戏。这是Inkling 2 Mini的演示,该开放权重模型由Thinking Machines Lab于11月20日发布。
它的不同之处在于架构。模型不再让每一层只运行一次,而是对每个token把中间块循环运行三次,用更少的文字实现更深的推理。团队还裁掉了三分之二的专家,让模型小到足以在个人电脑上运行。
三个数字
- 20GB01所需内存
原生4-bit训练,消费级笔记本可运行
- 48.2%02DeepSWE得分
参数不足千亿的开放模型中最高
- 37秒03无CoT时间跨度
单次16秒,三次循环提升到37秒
模型共有264亿参数,每次只激活34亿,因为原生以4-bit精度训练,内存占用约20GB。在编程测试DeepSWE v1.1上,它解决了48.2%的任务,是参数不足1000亿的开放模型中最高的。在研究版本中,不写出推理就能完成的工作时长,循环三次后从16秒增至37秒。
我们认为,这说明小模型也能在编程领域竞争,同时在本地运行。但层循环不会增加知识,来源还指出它在多轮对话上弱于Qwen3.8-27B。团队在这一规模下尚未发现推理可监控性下降。层循环会成为个人设备AI的普遍方向吗?
为何值得关注
- 小模型领跑开放模型编程榜
- 推理更强,知识并未增加
- 推理监控仍需继续观察
层循环会成为个人设备AI的主流方向吗?

数据已与原文自动核对
- ✓20 GB:
The total memory footprint of Inkling 2 Mini is ~20GB
- ✓48.2 %:
DeepSWE v1.1 (48.2%)
- ✓37 giây:
rises from 16 seconds at one pass to 37 seconds at three
文章与视频由 AI 根据上方来源编写,AI 配音。数据已与原文自动核对。