Thinking Machines Lab 发布首个开放权重模型 Inkling。表面上看,它最显眼的是 9750 亿总参数、410 亿激活参数和 100 万 token 上下文;真正值得关注的,却是另一件事:在前沿模型越来越被封装进闭源 API 的阶段,一个原生支持文本、图像和音频、允许微调并开放权重的大型基座,再次把一部分模型控制权交回开发者。
Inkling 并没有把自己包装成全面领先所有闭源模型的榜单冠军。官方更强调可定制性:模型采用 MoE 架构,以 Apache 2.0 许可证发布,预训练覆盖约 45 万亿 token 的文本、图像、音频和视频数据,并提供可控的推理强度以及面向工具调用、代码任务的适配能力。这个定位比单项分数更重要,因为它回答的是企业和研究团队长期面对的现实问题——能否围绕自己的数据、任务和成本约束继续改造模型,而不只是调用一个不可见的服务。
开放权重正在进入真正的多模态阶段
过去的开放模型竞争,很大程度上仍围绕文本生成、代码和推理榜单展开。Inkling 把图像与音频直接纳入统一输入空间,并把长上下文、工具使用和微调放在同一套基座里。这意味着团队不必为会议音频、产品截图、长文档和业务工具分别拼装多套模型,再承担中间转写、信息损失与权限扩散。
它尤其适合被当作垂直系统的起点,而不是终点。多模态客服可以围绕真实对话与产品图继续训练,研究系统可以同时处理论文、图表和访谈录音,代码 Agent 也能将界面截图、日志和仓库上下文放进同一任务链。模型价值由此从“回答一道题”转向“能否被塑造成一套具体工作流”。
开放不等于低门槛
Inkling 也清楚暴露了开放前沿模型的成本边界。根据官方模型卡,BF16 部署需要约 2TB 聚合显存;即使采用 NVFP4,仍需要 600GB 以上显存。对绝大多数团队而言,下载权重不等于能够经济地自托管,早期使用仍会依赖 Tinker、第三方推理服务或大型 GPU 集群。
因此,判断它是否适合业务,不应从“能不能下载”开始,而应从一组更实际的问题开始:长上下文检索是否稳定,图像与音频输入是否真的减少管线误差,工具调用在不同推理强度下的成功率和成本如何,微调后能否保留通用能力,以及量化部署的质量损失是否可接受。开放权重提供的是选择权,不是免费的算力。
模型竞争正在转向可部署、可改造的完整栈
同一方向也出现在端侧与物理 AI。NVIDIA 新公布的 Jetson Thor T3000/T2000 与 Cosmos 3 Edge,把轻量世界模型、板端算力、内存优化和机器人开发工具组合成一套边缘执行栈;手机 Agent 研究 PalmClaw 则试图用结构化工具直接调用设备能力,而不是让模型反复模拟点击屏幕。它们解决的场景不同,但共同点很明确:模型必须进入可控的执行环境,才能成为生产能力。
这也说明,前沿模型下一阶段的差距不只来自参数和榜单,还来自三种控制权:团队能否改造模型,能否选择部署位置,以及能否把权限、工具和反馈回路纳入自己的系统。Inkling 的意义,正是把第一种控制权重新推到桌面中央。
我的判断
Inkling 值得关注,但不应被简单理解为“又一个超大模型”。它真正测试的是开放生态能否从文本模型走向可定制的多模态基座,并在闭源 API 的便利性与自主可控之间形成可行的中间路线。
对普通使用者,短期没有必要因为开放权重而改变现有工具;对拥有领域数据、严格治理要求或长期模型工程能力的团队,它却值得进入评测清单。未来开放模型的竞争优势,不会只由下载量决定,而要看它能否被稳定微调、经济部署,并真正嵌入一条可验证的工作流。
参考来源:Thinking Machines Lab:Introducing Inkling、Inkling Model Card、Hugging Face 模型页、NVIDIA:Jetson Thor 与 Cosmos 3 Edge、PalmClaw 论文