
今日,Inkling 2 Mini正式发布。这是一款兼具速度与强大性能的轻量级模型,其小巧的体积使其能够直接在笔记本电脑上运行。
架构创新:循环Transformer与高效推理
Inkling 2 Mini采用创新的循环Transformer架构,通过对模型中间层进行三次迭代处理来生成每个Token。这种设计使模型能够进行更深入的内部推理,以更少的Token得出正确答案,尤其在依赖推理质量的智能体编码(Agentic Coding)任务中表现卓越。
作为一款混合专家(MoE)模型,Inkling 2 Mini总参数量为264亿,激活参数量为34亿。结合循环机制,每个Token的权重激活量为54亿。该架构允许模型在不输出思维链(CoT)的情况下进行长时间的内部推理,既提升了性能,又保留了通过阅读思维链来监督和理解模型行为的可监控性。
研究显示,随着循环次数增加,模型在串行推理基准测试中的表现持续提升,即使达到训练时两倍的十次循环,性能仍在增长。同时,模型的思维链变得更短且清晰可读,而在智能体破坏性测试中的得分并未上升,证明了其稳定性。
性能表现:小参数超越同级开源模型
在不到1000亿总参数量的限制下,Inkling 2 Mini在多项基准测试中超越了其他所有开源权重模型。其中,在DeepSWE v1.1中得分为48.2%,在Vals Index v2.2中得分为46.5%。其运行速度也优于性能相近的其他模型。
在智能体编码领域,Inkling 2 Mini在DeepSWE v1.1和SWE-bench Pro v2等基准测试中领先于所有可比模型,仅在少数任务中略逊于Qwen3.8-27B。在PMPP-Hard内核优化基准测试中,其得分接近体量更大的Inkling 2 Small。
值得注意的是,循环架构提升了推理能力,但并未增加知识存储量。Inkling 2 Mini在衡量事实准确性的AA-Omniscience指标上与其他同规模模型持平。然而,它通过高效使用搜索和工具弥补了这一差距,在BrowseComp、DeepSearchQA和MCP Atlas等涉及搜索和工具使用的知识工作基准测试中,表现优于其他同规模开源模型。
部署便捷:消费级设备即可离线运行
Inkling 2 Mini的大部分权重采用NVFP4格式原生训练和部署,最后四层采用MXFP8格式,总内存占用约为20GB。这意味着它可以在消费级笔记本电脑和本地AI计算机上流畅运行。研究人员曾在一台MacBook Pro上离线运行该模型,并在几分钟内构建了一个可玩的飞行模拟器。
目前,Inkling 2 Mini已开放权重,开发者今日即可在Tinker平台上进行推理和自定义。