99科技给大家分享各类生活学习资讯!
您现在的位置是: 首页 > 人工智能 > 谷歌发布全新Gemma 2开源AI模型:90/270亿参数

谷歌发布全新Gemma 2开源AI模型:90/270亿参数

6月28日消息,谷歌公司在昨日发布的新闻稿中,宣布面向全球的研究人员和开发人员推出其最新研发的大语言模型——Gemma 2。这款模型共有两种不同大小的版本,分别是拥有90亿参数(9B)的精简版和拥有270亿参数(27B)的完全版。

谷歌发布全新Gemma 2开源AI模型:90/270亿参数

谷歌发布全新Gemma 2开源AI模型:90/270亿参数

Gemma 2 大语言模型相比较第一代,推理性能更高、效率更高,并在安全性方面取得了重大进步。

谷歌在新闻稿中表示,Gemma 2-27B 模型的性能媲美两倍规模的主流模型,而且只需要一片英伟达 H100 ensor Core GPU 或 TPU 主机就能实现这种性能,从而大大降低了部署成本。

Gemma 2-9B 模型优于 Llama 3 8B 和其他类似规模的开源模型。谷歌还计划在未来几个月发布参数为 26 亿的 Gemma 2 模型,更适合智能手机的人工智能应用场景。

谷歌表示为 Gemma 2 重新设计了整体架构,实现卓越的性能和推理效率。附上 Gemma 2 主要特点如下:

性能优异:

27B 版本在同规模级别中性能最佳,甚至比两倍于其尺寸的机型更具竞争力。9B 版本的性能在同类产品中也处于领先地位,超过了 Llama 3 8B 和其他同规模的开放模型。

效率和成本:

27B Gemma 2 模型可在单个谷歌云 TPU 主机、英伟达 A100 80GB Tensor Core GPU 或英伟达 H100 Tensor Core GPU 上以全精度高效运行推理,在保持高性能的同时大幅降低成本。这使得人工智能部署更容易实现,预算也更合理。

跨硬件快速推理

Gemma 2 经过优化,可在各种硬件(从功能强大的游戏笔记本电脑和高端台式机到基于云的设置)上以惊人的速度运行。

在 Google AI Studio 中尝试全精度的 Gemma 2,在 CPU 上使用 Gemma.cpp 的量化版本解锁本地性能,或通过 Hugging Face Transformers 在配备 NVIDIA RTX 或 GeForce RTX 的家用电脑上进行尝试。

奥迪与OpenAI合作,约200万辆汽车将接入ChatGPT技术

2024/6/28 11:34:50

AMD推出全新24.6.1WHQL图形驱动:HYPR-RX支持扩展

2024/6/28 11:40:10