谷歌推出开源模型Google Gemma 2 可以在普通电脑上高速推理和运行

谷歌旗下人工智能团队日前推出开源模型 Google Gemma 2，这是谷歌 Gemma 系列开源模型中的重要版本更新，新版本不仅在体积上更小适合普通硬件运行，同时还提供非常卓越的能力。

目前在开源和开放模型领域有诸多模型，包括 Meta 的 Llama 系列模型、阿里云的通义千问系列模型以及谷歌 Gemma 系列模型等，但需要注意的是 Meta Llama 只是开放但并非开源。

而阿里云的通义千问和谷歌 Gemma 都是开源模型，例如 Gemma 2 基于 Apache License v2.0 版开源协议，无论是个人、开发者还是企业都可以自由使用这些模型构建任意内容，推动 AI 技术的发展。

说到这不得不再提下某知名公司所说的开源模型最终会被闭源模型打败，这种公司大概率底层也是靠开源模型支撑自己再改改，结果还大言不惭的对开源模型指手画脚。

说回 Gemma 2 模型，谷歌提供 9B 版和 27B 版，这些模型可以在高性能笔记本电脑、台式机甚至基于云的系统上运行，例如可以通过单个 NVIDIA H100 AI 加速卡进行微调和运行，显著降低高性能模型对硬件算力的要求。

下面是该模型的几个重要优势：

• 提供更卓越的能力：Gemma 2 27B 版在同参数模型里能力更好，甚至能力媲美两倍参数也就是 54B 模型的效果
• 提高效率和降低成本：27B 版可以在单个 Google Cloud TPU 主机、NVIDIA A100 80GB 版和 NVIDIA H100 上推理
• 跨硬件的超快推理：得益于重新设计的架构，Gemma 2 经过优化可以在各种硬件上高速运行，包括高性能笔记本和台式机

考虑到现在谷歌已经尝试在 Chrome 浏览器中内置 Gemma 模型，估计后续 Chrome 会换成 Gemma 2 9B 或 27B 版为开发者提供动力，这些模型完全在本地运行不需要联网，开发者可以构建应用调用模型实现 AI 功能。

而 Gemma 2 使用开源许可证，开发者和企业可以下载该模型进行微调和构建自己的应用，从下个月起 Google Cloud 云计算用户将可以轻松地在 Vertex AI 上部署和管理 Gemma 2。

不过现在开发者和企业就可以在 Google AI Studio 上测试 Gemma 2，也可以通过 Hugging Face 

谷歌在 Hugging Face 上提供的模型版本包括 Gemma 2 9B、Gemma 2 9B IT、Gemma 2 27B、Gemma 2 27B IT，开发者可以根据需要选择不同的版本。

以上就是“谷歌推出开源模型Google Gemma 2 可以在普通电脑上高速推理和运行”的详细内容，想要了解更多IT圈内资讯欢迎持续关注编程学习网。