Note: This page does not support English, using the default language version
9 月 27 日，NaiveAI 把第一个模型 Naive-N0.5-Flash 放上了 Hugging Face：309B 参数的 MoE，原生 100 万 token 上下文，权重和推理代码按 MIT 协议开放，同时提供 API——输入 0.6 元、输出 2.6 元、缓存读取 0.07 元每百万 token。这个价格放在今天的开源阵营里，属于明摆着要抢长上下文工作负载的定价。
公司本身也值得交代一句。创始人代季峰是清华副教授，履历横跨微软亚洲研究院和商汤研究院，InternVL 系列多模态模型就出自他这条线。据 The Information 报道，他今年 2 月创办 NaiveAI，半年左右拿到约 4 亿美元融资，投资方名单里有腾讯、红杉、IDG。在创业公司普遍去做应用层的行情里，一家新公司上来就训大模型，这件事本身就挺罕见。
| 项目 | 情况 |
|---|---|
| 参数规模 | 309B 总参，每 token 激活约 15.5B |
| 上下文 | 原生 1M token |
| 注意力结构 | 48 层中 39 层滑动窗口注意力（窗口 128 token）+ 9 层 DeepSeek 稀疏注意力（每步从历史里选 top-2048），无全注意力层 |
| 其他细节 | GQA 用 4 个 KV 组，稀疏索引器 16 个 query 头 |
| 基座与训练 | 基于小米 MiMo-V2.5 Base 继续训练 3.25T token（50B 索引器预热 + 3T 稀疏训练 + 200B 学习率衰减） |
| 部署 | FP8 权重约 315GB，需要支持 FP8 的 N 卡 |
| 许可 | MIT（权重 + 推理代码） |
要理解这套架构，先得知道全注意力贵在哪：它的计算量和显存占用随上下文长度平方增长——也就是说，上下文越长，你越是在为”每一层都要看完整历史”这件事付钱。1M 上下文真正难的地方从来不是能不能塞，而是塞完之后还能不能跑。
NaiveAI 的做法是把这件事拆开：大部分层（5 层里 4 层）只看附近 128 个 token，负责局部信息；少数层（每 6 层里 1 层）用 DeepSeek 的稀疏注意力，先从完整历史里挑出最重要的 2048 个位置，再让主干算注意力。整个网络里不再有任何一层是全注意力的，曲线就被压平了。
但代价要说清楚。DSA 的轻量索引器仍然要扫一遍完整历史，这些稀疏层也仍然保留完整的 KV 缓存。所以它省的是主干注意力的计算量和访存量，不是显存——你不会因为换了架构，就能把 315GB 的权重塞进一张卡。这一点在模型卡里写得很清楚，也常被转述时丢掉。
报告里最抓眼球的是 2122 tok/s。完整条件是这样的：8 张 GPU、单流、关闭思考模式、不计入 prompt 处理时间、而且是 41 次 HTML/SVG 生成请求里表现最好的那一秒。标准模式下，官方给的是每个用户约 50 tok/s。另一条对比是投机解码的一轮循环从 SGLang 的 12.3 毫秒降到 3.4 毫秒。这些都来自厂商自测，目前没有第三方基准。
我不觉得这是”注水”，但这是必须复述的上下文：一个只截取最优一秒、不含预处理的解码速度，和你在真实工作负载里感受到的延迟不是一回事。
NaiveAI 给这条路线起的名字是 AI-centered R&D：人负责定目标、算力预算、约束条件和评测协议，模型负责写代码、跑实验、分析结果、提出下一步方案。
具体到数字，推理栈 NaiveRT 的核心优化在 6 天里跑了 151 轮有记录的实验，其中 63 轮被采纳、71 轮因为验证失败或性能回退被撤回、17 轮用于探索替代方案；AI 参与了性能分析、候选实现、数值验证和多卡测试。他们还把一个此前没有积累的方向交给了这个模型：WorldModel 项目累计 400 小时研究、15 轮主要实验，做出来的 AutoWM 在公开评测 WorldArena-1 Track1 上拿到 77.43 分，此前公开最高是 73.64。支撑这套流程的基础设施，每周处理接近 1000 万个沙箱，峰值同时运行 10 万个。
我的看法是：71 轮被撤回这件事，反而是整篇报告里最可信的一段。它说明这是有记录、可回滚的搜索过程，而不是”AI 一次成功”的宣传稿。至于 AI 到底承担了多少研发工作，外部无法验证——方向是人定的、关键决定是人拍的，所以准确的表述是”AI 辅助研发”，不是”模型自己造出了自己”。但把研发流程变成一套可测量、可实验的系统，这一步本身有分量：它意味着下一代模型的迭代成本，有机会变成一条斜率更陡的曲线。
对普通用户来说，短期最实际的变化不是”要不要换模型”，而是两件事。一是 1M 原生上下文加上便宜的缓存读取，会让”把整个代码仓库、一整年的日志塞进去”从炫技变成日常用法；二是 MIT 协议意味着它可以被微调、被嵌进产品、被内网部署，不必担心条款哪天改口——在开源模型越来越多附加条件的当下，这个许可本身就是竞争力。
但要提醒一句：315GB 的 FP8 权重不是玩具。它不是笔记本能跑的，是一台租来的多卡机器，真正的账本是利用率——跑满才划算，闲置就是纯亏。至于”第一梯队""AI 研发领先”这些表述，等第三方评测出来再决定要不要相信。眼下我更愿意记的是那条被很多人忽略的细节：省的是算力，不是显存。 （内容由AI生成，仅供参考）
Loading comments...