在 AI 范畴，小型模型正迎来归于它们的高光时间。从 MIT 子公司 Liquid AI 发布的可装入智能手表的新 AI 视觉模型，到能在谷歌智能手机上运转的模型，小型化、高效化已成为明显趋势。而现在，英伟达也强势参加这一浪潮，带来了全新的小言语模型（SLM）——Nemotron - Nano - 9B - v2。这款模型不仅在选定基准测验中到达同类最高功用，更具有让用户自在敞开和封闭 AI “推理” 的共同才能，为 AI 运用拓荒了新的幻想空间。
“小” 模型从边际玩具到出产主力
曩昔三个月，AI 圈的 “迷你军团” 连续亮剑，掀起了一场无声的革新。MIT 子公司 Liquid AI 推出的视觉模型，细巧到能轻松装入智能手表，让可穿戴设备的智能体会迈入新台阶；谷歌则将 Gemini-Nano 成功塞进 Pixel 8 手机，让移动端 AI 才能完成质的腾跃；当今，英伟达带着 90 亿参数的 Nemotron-Nano-9B-v2 上台，将其布置在单张 A10 GPU 上，再次改写了人们对小型模型的认知。
这绝非一场 “小而美” 的技能炫技，而是一次对本钱、功率与可控性的精准平衡试验。正如英伟达 AI 模型后练习主管 Oleksii Kuchiaev 在 X 上直言：“120 亿参数精简到 90 亿，便是专门为了适配亚洲三十六区在线观看0122;洲 拳交天堂网亚洲综合在线 在线 A10—— 那但是企业布置中最常见的显卡。”
一句话：参数巨细不再是衡量模型好坏的 KPI，出资回报率（ROI）才是硬道理。
把思想链条做成可计费功用
传统大模型的 “黑盒思想” 一直是企业运用的痛点 —— 一旦触发长期推理，token 账单就好像脱缰野马般失控。而 Nemotron-Nano-9B-v2 给出的解法简略直接且高效：
在 prompt 中参加 /think，模型便会启用内部思想链，像人类考虑相同逐渐推导；参加 /no_think，则会直接输出答案，省去中间环节；体系级的 max_think_tokens 功用，好像 AWS 的 CPU credit 机制，能为思想链设定预算，精准操控本钱。
现场实测（官方陈述）数据更能阐明问题：
一句话：把「推理」从默许才能变成可选项，企业第一次能够像买云硬盘相同，按考虑深度付费。
Transformer 的「省油」补丁
为何 9B 模型能在长上下文里打平 70B？答案藏在Mamba-Transformer 混合架构里：
用 Mamba 状况空间层替换 70% 的注意力层，显存占用 ↓ 40%；
序列长度与显存呈线性联系，而非平方爆破；
128k token 实测吞吐量比同尺度纯 Transformer高 2.3×。
一句话：Mamba 不是替代 Transformer，而是把它改形成省油的混动引擎。
商业核弹：宽松答应证 + 零门槛商用
英伟达此次在答应协议上的行动可谓 “商业核弹”，做到了 “三不要”：
不要钱：无版税、无收入分红，企业无需为运用模型付出额定费用；不要商洽：直接下载即可商用，省去了繁琐的协作洽谈流程；不要法务焦虑：仅要求恪守可信 AI 护栏和出口合规，降低了企业的
比照 OpenAI 的分级答应、Anthropic 的运用上限，Nemotron-Nano-9B-v2 简直成了 “开源界的 AWS EC2”—— 拿来就能上线挣钱，极大地降低了企业的运用门槛。
场景切片：谁最早获益？
一句话：任何边际/私有化场景，都多了一张「满足聪明又付得起」的牌。
AI 的「精算年代」正式开幕
曩昔四年，咱们见证了 scaling law 的魔法：参数 × 算力 = 功用。当今日，Nemotron-Nano-9B-v2 用 90 亿参数告知咱们：架构 × 操控 × 答应证 = 可继续的 AI 经济。
当 Liquid AI 把模型塞进手表，当英伟达把推理做成开关，“小” 不再是技能上的退让，而是通过克勤克俭后的最优解。
下一次融资路演，创业者们或许不会再说 “咱们比 GPT-4 更强”，而是会自傲地声称：“咱们用 1/10 的算力，做出了 90% 的作用，而且还能挣钱。” 这标志着，AI 的 “精算年代” 已正式拉开帷幕。
本文来自微信大众号“山自”，作者：Rayking629，36氪经授权发布。