NaiveAI发布3090亿参数开源权重模型：最高每秒推理2000个词元，指标如何核验？

NaiveAI于2026年9月27日发布Naive-N0.5-Flash，将“AI参与AI研发”作为此次发布的突出看点。公司称，这是一款面向编程与AI研发的开源权重模型，采用3090亿总参数的混合专家架构，原生支持百万词元上下文，推理速度最高可达每秒2000个词元。对于开发者和企业选型者来说，关键不只是数字够不够大，而是这些指标在什么条件下测得、能否独立复现，以及是否能转化为实际可用的成本和效率。

已披露的信息与尚待核验的指标

NaiveAI在官方发布页面介绍，模型研发过程中，AI系统参与编写代码、运行实验、监控进展、分析结果和迭代；研究人员则负责确定方向、约束和评判标准，并作出关键决策。这说明“AI参与AI研发”是厂商对其研发流程的描述，不等于模型完全由AI自主设计或训练。

官方页面披露，Naive-N0.5-Flash总参数为3090亿，采用MoE（混合专家）架构，原生上下文长度为100万词元，并称其AI优化推理最高可达每秒2000个词元。模型仓库也已在Hugging Face页面列出，模型卡说明支持FP8混合精度推理，并提示需要支持FP8的英伟达GPU。

但这些信息的证据性质并不相同：参数规模、上下文长度和仓库文件属于可查看的模型信息；“最高每秒2000个词元”则是厂商公布的性能上限。现有披露没有同时给出足以完整复现该速度的测试配置，例如具体GPU型号与数量、并发请求数、输入和输出长度、批处理设置、解码方式、统计口径及延迟范围。因此，目前不能把这个数字直接视为普通用户单次对话中稳定可获得的生成速度，也不能据此与其他模型作公平排名。

2000个词元/秒，比较时要看什么

推理速度并非单一指标。厂商公布的“每秒词元数”可能描述单请求生成速度，也可能是多请求并发时的整体吞吐；两者对用户体验和服务容量的意义不同。长输入、长输出、并发量、显存占用和解码策略都会影响结果。若使用投机解码或专用推理运行时，速度还可能与通用推理框架下的表现明显不同。

开发者复核时，至少应确认以下条件：

• 硬件与精度：GPU型号、数量、显存，以及是否采用FP8等量化或混合精度设置。
• 测试负载：输入和输出长度、并发请求数、批处理方式，以及是否测试百万词元上下文。
• 速度口径：区分单请求生成速度与整体吞吐，并同时记录首词元延迟、总响应时间和稳定性。
• 软件环境：推理框架、运行时版本、解码方法和关键参数；公开脚本、配置与原始日志，才能提高复现价值。
• 质量与成本：在速度相同的条件下比较任务准确性、失败率、显存和算力成本，而不是只看峰值吞吐。

模型卡的FP8部署说明提供了部分使用线索，但不足以单独验证每秒2000个词元的测试结果。若没有完整配置、基准脚本和可对照的测试日志，这一数字更适合作为厂商性能宣传中的峰值信息，而不是生产环境的性能承诺。

“开源权重”不等于训练全流程开放

Hugging Face模型页面将该模型标注为MIT许可证；媒体报道另称模型权重与推理代码采用MIT许可。对实际使用者而言，MIT许可通常意味着较大的使用、修改和再分发空间，但仍应分别核对权重文件、推理代码及依赖组件各自的许可证和附带条件，不能只凭模型页面的一个许可标签推定所有相关资产均适用同一授权。

更重要的是，“开源权重”与完整开放训练过程不是一回事。权重可供下载或使用，并不自动意味着训练数据、数据处理方式、完整训练代码、算力配置和训练日志都已公开。现有资料也不足以据此判断其训练流程是否能够从头复现。企业落地前，仍应评估许可证适用范围、数据合规要求、部署环境、服务成本和维护能力。

【软盟资讯观察】

AI参与AI研发值得关注，但其产业价值最终要看能否让实验更快、更可复现，而不只是增加一个醒目的发布叙事。开源权重和较宽松的许可，可能降低开发者试用、微调与自部署的门槛；百万词元上下文和高吞吐宣称，也为长文档处理、代码任务等场景提供了测试方向。不过，参数规模不等于综合能力，速度峰值也不等于低成本服务。企业可以先用公开配置复测，再以自身任务集评估质量、延迟、显存和总拥有成本。冷静看，公开权重扩大了使用空间，能否形成稳定开发价值，仍取决于基准透明度、部署条件和实际工作负载。