美国AI初创公司Inception于2026年10月发布扩散型语言模型“Mercury 3”。据该公司对比，在Nvidia GPU上，该模型每秒可生成1,068个token，速度是GPT-6 Luna和Claude Haiku 5.5的4至8倍。该公司还称，Mercury 3在12项基准测试中有8项表现更好。这是一个例子，显示AI竞争的焦点正从“智能”拓展到“等待时间”。
不逐词生成文本的模型究竟是什么
GPT和Claude等主流语言模型会按顺序逐词生成文本。要输出下一个词，必须先确定前一个词，这就像在收银台排队。无论计算机多快，这种“排成一列等待”的结构都不会改变。
Mercury 3采用的是扩散模型。这种方法原本因图像生成AI而广为人知，如今被用于文本生成：模型先生成整段回答的粗略草稿，再经过几轮处理逐步完善。Inception解释称，由于模型能够同时处理许多词，因此在速度上更有优势。Google也在推进同类研究，在展示Gemini Diffusion之后，又于6月发布了开源模型“DiffusionGemma”。据称，它的速度最高可达标准版Gemma 4的4倍，但结果略逊一筹。
据Inception介绍，Mercury 3的参数量是初代Mercury 1的40多倍，速度却与其相当。与小型版Mercury 1 mini相比，性能则提升了3倍。该公司认为，扩散型模型也能随着规模扩大而稳步提升性能，这是一个重要的进展信号。
基准测试的胜负并非一边倒
发布信息中，“12项测试中8项排名第一”这一数字格外醒目。不过，这些对比数据来自该公司自己的测试，且三个模型都是在中等设置下运行的。
差距较大的是指令遵循能力。在IFBench测试中，Mercury 3得分76.84分，比GPT-6 Luna高约15分。在衡量自主编程能力的SWE-Bench Atlas测试中，它也取得51.08分，领先于竞争对手的33.33分和32.26分。
另一方面，在较长的编程任务DeepSWE中，Claude Haiku 5.5胜出。在从长文本中查找信息的任务上，该模型也占优。在Artificial Analysis的两项测试中，GPT-6 Luna则略微领先。该公司在简要介绍中谨慎地将质量描述为“相当或更好”，或许正是考虑到了这些测试结果。
速度方面，据该公司对比，Mercury 3为每秒1,068个token，Claude Haiku 5.5约为240个，GPT-6 Luna约为130个。目前尚无独立第三方的验证结果。比较稳妥的做法是把这些数字视为“有力的说法”，并在自己的使用场景中进行测试。
等待时间也能成为价值
Inception列出的主要应用场景包括AI智能体、搜索、客户支持和学习辅助。尤其是智能体会把一项任务拆分成多个步骤，每一步都要等待模型回复。单次延迟或许很小，但不断累积后，用户的体感差异就会非常明显。
早期用户的反馈也集中在速度上。为智能眼镜开发搜索功能的Octen AI创始人Kuan Zou表示：“在智能眼镜上，5秒才给出的答案会让人觉得系统坏了。”搜索本身约80毫秒就能完成，瓶颈在于语言模型。据称，使用Mercury 3后，响应时间中位数降至0.9秒，整体处理时间为2.2秒。
教育企业General Learning称，现在可以在约1秒内向学生提供提示和批改反馈。客户服务公司Lorikeet报告称，除了响应速度加快，结果也有所改善。自动化操作网站的TinyFish AI表示，在真实网站上的50项导航任务中，它完成了25项，超过了GPT-6.1-Sol。不过，该公司没有提供OpenAI一方的具体数据。
评估是否采用时，不能只看速度
上手门槛相对较低。除了Inception自有平台，Mercury 3还可通过OpenRouter、Baseten和Vercel使用。该公司认为，由于它采用了与OpenAI模型兼容的API，从现有系统切换过来并不费事。它最多可处理100万个输入token。
按常规价格，输入每100万个token收费0.20美元，输出收费0.70美元。发布时提供半价优惠，但没有说明折扣会持续到什么时候。恢复常规价格后，在输入较短的情况下，Mercury 3的输出单价将高于GPT-6 Luna和Claude Haiku 5.5（两者均为0.50美元）。不过，在输入非常长时，两个竞争模型的费用会高出许多。
2026年2月，Inception发布了“Mercury 2”，称其为首个在回答前加入中间推理环节的扩散模型。此前，该公司已融资5,000万美元，投资方包括Nvidia、Microsoft，以及它们和Snowflake旗下的投资部门NVentures、M12和Snowflake Ventures。
归根结底，选择标准不能只看速度。还要综合考量质量、费用、长文本处理能力，以及自家服务对等待时间有多敏感。对于实时性至关重要的应用，Mercury 3或许值得一试。
コメント