下载下来只要 241 MB。
本周四，谷歌正式发布了 Gemma 3 的最新一款模型。
Gemma 3 270M 是一款紧凑型、具有 2.7 亿个参数的小体量言语模型，专为特定使命的微调而规划，具有强壮的指令盯梢和文本结构化才能。
它承继了 Gemma 3 系列的先进架构和强壮的预练习功用，一起为小尺度模型带来了强壮的指令履行才能。谷歌展现的 IFEval 基准测验效果所示，在同级模型上，Gemma 3 270M 树立了新的功用水平，使杂乱的 AI 功用更简略运用于设备端和研讨运用。
IFEval 旨在测验模型履行可验证指令的才能。
Gemma 3 270M 的中心功用首要包含如下几个方面：
- 紧凑而强壮的架构：新模型共有 2.7 亿参数：因为词汇量巨大，嵌入参数有 1.7 亿个，Transformer 模块则有 1 亿个。得益于 256k 个 token 的巨大词汇量，该模型能够处理特定和稀有的 token，使其成为强壮的根底模型，能够在特定范畴和言语中进一步进行微调。
- 极致节能：Gemma 3 270M 的一个要害优势是其低功耗。在 Pixel 9 Pro 手机 SoC 上进行的内部测验标明，INT4 量化模型在 25 次对话中仅耗费 0.75% 的电量，使其成为最节能的 Gemma 模型。
- 指令遵从：谷歌发布了一个指令调整模型，并顺便预练习的查看点。尽管该模型并非为杂乱的对话用例而规划，但它是一个强壮的模型，能够开箱即用地遵从通用指令。
- 可用于出产的量化：量化感知练习 (QAT) 查看点可用，使人们能够以 INT4 精度运转模型，一起最大程度地削减功用下降，这关于在资源受限的设备上布置至关重要。
关于 1.7 亿个嵌入参数，如安在练习过程中保证不呈现嵌入溃散，谷歌并没有对技术细节进行太多解说。不过在谷歌发布后，AI 社区很快开端了研讨。
美女私奔全程无删减="https://img.36krcd黑色恶魔无删&#电影银匠无删减视频下载20943;韩国漫画n.com/hsossms/20250815/v2_95c310d284534e1e91568409eb665409@46958_oswg473303oswg885oswg1221_img_000?x-oss-process=image/format,jpg/interlace,1" class="aligncenter">
Sebastian Raschka 第一时间进行了简略的解读，他留意到了新模型的一些架构特色。
谷歌表明，Gemma 3 270M 是一款高质量的根底模型，开箱即用，适用于专业化的使命。在实践中，人们应从紧凑而强壮的模型下手，从而构建出精简、快速且运营本钱较低的出产体系。
这种思路已在实际国际中取得了很好的效果。谷歌举了 Adaptive ML 与 SK Telecom 协作的效果的比如。面临细致入微的多言语内容审阅应战，他们挑选了专业化。Adaptive ML 没有运用大规模通用模型，而是对 Gemma 3 4B 模型进行了微调。从成果上看，专业化的 Gemma 模型到达乃至逾越了更大型专有模型在其特定使命上的体现。
Gemma 3 270M 旨在让开发者更进一步运用这种办法，为定义明确的使命开释更高的功率。它是创立一系列小型专业模型的抱负起点，每个模型都是各自使命的专家。
这种专业化的力气不只适用于企业使命，还能协助个人开发者构建构思运用程序。例如，Hugging Face 团队的成员运用 Gemma 3 270M 为一款运用 Transformers.js 的睡前故事生成器网页运用供给支撑。可知，该模型的体量和功用使其十分合适离线、根据网页的构思使命。
谷歌表明，Gemma 3 270M 适用于以下场景：
- 有一个高容量且定义明确的使命。该模型十分合适心情剖析、实体提取、查询路由、非结构化到结构化文本处理、构思写作和合规性查看等功用。
- 需求克勤克俭，时延要求高的使命。它能够大幅下降乃至消除出产中的推理本钱，并更快地为用户供给呼应。&美女私奔全程无删减#40657;&#电影银匠无删减视频下载33394;恶魔无删减韩国漫画通过微调的 270M 模型能够在轻量级的根底架构上运转，也能够直接在设备上运转。
- 需求快速迭代和布置的作业。Gemma 3 270M 的细巧体积使其能够快速进行微调试验，协助你在数小时内（而不是数天）找到合适您用例的完美装备。
- 需求保证用户隐私的使命。因为该模型能够彻底在设备上运转，你能够构建处理灵敏信息的运用程序，而无需将数据发送到云端。
- 你需求一批专门的使命模型。构建并布置多个自定义模型，每个模型都通过专业练习，能够完结不同的使命，并且不会超出预算。
在新模型上，谷歌供给了快速入门的计划和东西。你能够在 Gemma 文档中找到运用 Gemma 3 270M 进行完好微调的攻略：https://ai.google.dev/gemma/docs/core/huggingface_text_full_finetune
谷歌一起发布了 Gemma 3 270M 的预练习模型和指令调优模型：https://huggingface.co/collections/google/gemma-3-release-67c6c6f89c4f76621268bb6d
你能够在 Vertex AI 上试用模型，或运用 llama.cpp、Gemma.cpp、LiteRT、Keras 和 MLX 等抢手推理东西进行试用：https://console.cloud.google.com/vertex-ai/publishers/google/model-garden/gemma3
现在，你也能够在 Colab 上测验自行测验微调，只需不到 5 分钟即可完结。
曩昔几个月，谷歌的 Gemma 敞开模型系列阅历了一系列发布。在 4 月到 5 月，谷歌推出了 Gemma 3 和 Gemma 3 QAT，为单云和桌面级 GPU 供给了不错的 AI 功用。随后在 6 月 25 日，面向移动端的 Gemma 3n 正式发布，为手机等设备引入了强壮的实时多模态 AI 才能。
谷歌表明，截止上星期，Gemma 系列的累积下载量现已突破了两亿次。
参阅内容：
https://developers.googleblog.com/en/introducing-gemma-3-270m/
本文来自微信大众号“机器之心”，36氪经授权发布。