GoogleGemini 发布仅两个月左右，但这家搜索巨头已经推出了其继任者，即迄今为止最新的大型语言模型 (LLM)——Gemini 1.5。该版本目前仅适用于企业和开发人员，预计很快就会向消费者全面推出。

谷歌首席执行官桑达尔·皮查伊 (Sundar Pichai) 表示，Gemini 1.5 展示了“在多个维度上的显着改进”，同时，使用更少的计算实现了与 Gemini 1.0 Ultra(最先进的法学硕士)相当的质量。

此外，皮查伊补充说，新一代在长上下文理解方面取得了突破，现在，谷歌已经能够“增加我们的模型可以处理的信息量——持续运行多达 100 万个令牌，实现最长的上下文窗口还没有任何大型基础模型。”

双子座 1.5：有什么新变化?

首先，Gemini 1.5模型配备了新的Mixture-of-Experts(MoE)架构，使其更高效、更易于服务。

最初，谷歌发布了 1.5 Pro 版本进行早期测试，其性能与 1.0 Ultra 类似。 Gemini 1.5 Pro 将提供标准的 128,000 个代币上下文窗口，但少数开发人员和企业可以尝试使用最多 100 万个代币的上下文窗口。

谷歌还强调，由于建立在 Transformer 和 MoE 架构之上，Gemini 1.5 更加高效，因为 MoE 模型被划分为更小的“专家”神经网络。

此外，理解上下文是 Gemini 1.5 改进的另一个关键领域。 “1.5 Pro 可以一次性处理大量信息，包括 1 小时的视频、11 小时的音频、超过 30,000 行代码的代码库或超过 7,00,000 个单词。在我们的研究中，我们还成功测试了多达 1000 万个代币。”谷歌表示。

简而言之，如果你给 Gemini 1.5 大量的信息，比如一本大小说、研究文章，或者像谷歌提到的那样，阿波罗 11 号的 402 页任务记录，并要求它进行总结，它就能做到这一点。然后，你还可以根据Gemini 1.5从中理解的内容提出详细的问题。

与 Gemini 1.0 Pro 相比，新的 1.5 Pro 型号在用于开发 Google 法学硕士的基准测试中 87% 的表现优于 Gemini 1.0 Pro，并且性能与 Gemini 1.0 Ultra 类似。

另一个重大变化是展示“情境学习”技能的能力。这意味着Gemini 1.5 Pro可以“从长提示中给出的信息中学习新技能，而不需要额外的微调”。

标 签：