GSP1210

概览

本实验将向您介绍 Gemini，这是一套由 Google 开发的多模态生成式 AI 模型。您将使用 Gemini API，探索 Gemini Flash 如何理解文本、图片和视频内容并生成相关回答。

Gemini 的多模态功能可执行以下操作：

• 分析图片：检测对象、了解界面、解读图表，并比较视觉图像的相似之处和差异。
• 处理视频：生成视频说明、提取标签和亮点，并回答有关视频内容的问题。

通过在 Vertex AI 中使用 Gemini API 执行实操任务，您可以亲自体验这些功能。

前提条件

在开始本实验之前，您应该先熟悉：

• Python 编程基础知识。
• API 的一般性概念。
• 在 Vertex AI Workbench 上的 Jupyter 笔记本中运行 Python 代码

目标

在本实验中，您将执行以下操作：

• 在 Vertex AI 中与 Gemini API 交互。
• 使用 Gemini Flash 模型分析图片和视频。
• 向 Gemini 提供文本、图片和视频提示，以获得信息丰富的回答。
• 探索 Gemini 多模态功能的实际应用场景。

设置和要求

点击“开始实验”按钮前的注意事项

请阅读以下说明。实验是计时的，并且您无法暂停实验。计时器在您点击开始实验后即开始计时，显示 Google Cloud 资源可供您使用多长时间。

此实操实验可让您在真实的云环境中开展实验活动，免受模拟或演示环境的局限。为此，我们会向您提供新的临时凭据，您可以在该实验的规定时间内通过此凭据登录和访问 Google Cloud。

为完成此实验，您需要：

• 能够使用标准的互联网浏览器（建议使用 Chrome 浏览器）。

注意：请使用无痕模式（推荐）或无痕浏览器窗口运行此实验。这可以避免您的个人账号与学生账号之间发生冲突，这种冲突可能导致您的个人账号产生额外费用。

• 完成实验的时间 - 请注意，实验开始后无法暂停。

注意：请仅使用学生账号完成本实验。如果您使用其他 Google Cloud 账号，则可能会向该账号收取费用。

如何开始实验并登录 Google Cloud 控制台

1. 点击开始实验按钮。如果该实验需要付费，系统会打开一个对话框供您选择支付方式。左侧是“实验详细信息”窗格，其中包含以下各项：

   • “打开 Google Cloud 控制台”按钮
   • 剩余时间
   • 进行该实验时必须使用的临时凭据
   • 帮助您逐步完成本实验所需的其他信息（如果需要）

2. 点击打开 Google Cloud 控制台（如果您使用的是 Chrome 浏览器，请右键点击并选择在无痕式窗口中打开链接）。

   该实验会启动资源并打开另一个标签页，显示“登录”页面。

   提示：将这些标签页安排在不同的窗口中，并排显示。

   注意：如果您看见选择账号对话框，请点击使用其他账号。

3. 如有必要，请复制下方的用户名，然后将其粘贴到登录对话框中。

   {{{user_0.username | "<用户名>"}}}

   您也可以在“实验详细信息”窗格中找到“用户名”。

4. 点击下一步。

5. 复制下面的密码，然后将其粘贴到欢迎对话框中。

   {{{user_0.password | "<密码>"}}}

   您也可以在“实验详细信息”窗格中找到“密码”。

6. 点击下一步。

   重要提示：您必须使用实验提供的凭据。请勿使用您的 Google Cloud 账号凭据。 注意：在本实验中使用您自己的 Google Cloud 账号可能会产生额外费用。

7. 继续在后续页面中点击以完成相应操作：

   • 接受条款及条件。
   • 由于这是临时账号，请勿添加账号恢复选项或双重验证。
   • 请勿注册免费试用。

片刻之后，系统会在此标签页中打开 Google Cloud 控制台。

注意：如需访问 Google Cloud 产品和服务，请点击导航菜单，或在搜索字段中输入服务或产品的名称。

任务 1. 在 Vertex AI Workbench 中打开笔记本

1. 在 Google Cloud 控制台的导航菜单 () 中依次点击 Vertex AI > Workbench。

2. 找到 实例，然后点击打开 JupyterLab 按钮。

Workbench 实例的 JupyterLab 界面会在新浏览器标签页中打开。

任务 2. 设置笔记本

1. 打开 文件。

2. 在选择内核对话框中，从可用内核列表中选择 Python 3。

3. 运行笔记本的开始使用和导入库部分。

   • 对于项目 ID，请使用 ；对于位置，使用 。

注意：您可以跳过任何标为“仅限 Colab”的笔记本单元。 如有笔记本单元在执行时遇到 429 响应，请等待 1 分钟，然后再次运行该单元以继续操作。

任务 3. 使用 Gemini Flash 模型

Gemini Flash 是一种支持多模态提示的多模态模型。您可以在提示请求中包含文本、图片和视频，并获取文本或代码回答。

在本任务中，快速浏览笔记本单元，了解如何使用 Gemini Flash 模型。完成目标后，返回此处以检查您的进度。

根据多张图片进行推理

Gemini 的一项功能是通过多张图片进行推理。在此示例中，您将使用 Gemini 分析关于水果的图片和价格表，以便推算出食物的总费用。

快速浏览此笔记本的根据多张图片进行推理部分。

点击检查我的进度以验证是否完成了以下目标： 根据多张图片进行推理

理解屏幕和界面

Gemini 还可以从设备屏幕、界面、屏幕截图、图标和布局中提取信息。在此示例中，您将使用 Gemini 从一张关于炉灶的图片中提取信息，帮助用户了解炉灶的界面，并使用不同的语言来回答用户的问题：

快速浏览此笔记本的理解屏幕和界面部分。

点击检查我的进度以验证是否完成了以下目标： 理解屏幕和界面

理解技术图表中的实体关系

Gemini 具备多模态功能，这使其能够理解图表并执行一些可行的操作，例如进行优化或生成代码。在此示例中，您将看到 Gemini 能够解读实体关系 (ER) 图表，理解表之间的关系，确定特定环境（例如 BigQuery）中的优化要求，甚至生成相应的代码。

快速浏览此笔记本的理解技术图表中的实体关系部分。

点击检查我的进度以验证是否完成了以下目标： 理解技术图表中的实体关系

根据多张图片提出建议

Gemini 能够进行图片比较并提供建议。这一功能在电子商务和零售等行业非常实用。在此示例中，您将使用 Gemini 来推荐适合鹅蛋脸型的眼镜。

快速浏览此笔记本的根据多张图片提出建议部分。

点击检查我的进度以验证是否完成了以下目标： 根据多张图片提出建议

相似/不同之处

Gemini 可以对不同的图片进行比较，并找出对象之间的相似/不同之处。在此示例中，您将使用 Gemini 比较为同一地点拍摄的两张图片，并找出它们的不同之处。

快速浏览此笔记本的相似/不同之处部分。

点击检查我的进度以验证是否完成了以下目标： 相似/不同之处

生成视频说明

Gemini 可以生成视频说明。在此示例中，您将使用 Gemini 为一段关于地中海海岸的视频生成说明。

快速浏览此笔记本的生成视频说明部分。

点击检查我的进度以验证是否完成了以下目标： 生成视频说明

提取视频中对象的标签

Gemini 还可以提取视频的标签。在此示例中，您将使用 Gemini 从一段关于拍摄照片的视频中提取对象的标签，并生成 # 标签。

快速浏览此笔记本的提取视频中对象的标签部分。

点击检查我的进度以验证是否完成了以下目标： 提取视频中对象的标签

提出更多关于视频的问题

Gemini 可以回答关于视频的问题。在此示例中，您将使用 Gemini 回答有关视频的问题并返回 JSON 响应。

快速浏览此笔记本的提出更多关于视频的问题部分。

点击检查我的进度以验证是否完成了以下目标： 提出更多关于视频的问题

检索视频中不包含的额外信息

Gemini 还可以检索视频本身不包含的额外信息。在此示例中，您将使用 Gemini 检索关于视频的额外信息，例如询问关于火车路线的特定问题。

快速浏览此笔记本的检索视频中不包含的额外信息部分。

点击检查我的进度以验证是否完成了以下目标： 检索视频中不包含的额外信息

恭喜！

您现已完成本实验！在本实验中，您学习了如何在 Vertex AI 中使用 Gemini API，根据文本和图片提示生成回答。

后续步骤/了解详情

请参阅以下资源，详细了解 Gemini：

• Gemini 概览
• 有关 Vertex AI 上生成式 AI 的文档
• YouTube 上有关生成式 AI 的视频
• 探索 Vertex AI 实战宝典，了解精心挑选的生成式 AI 笔记，还可以在笔记本库中搜索内容。
• 探索 Google Cloud 生成式 AI 仓库中的其他笔记本和示例。

Google Cloud 培训和认证

…可帮助您充分利用 Google Cloud 技术。我们的课程会讲解各项技能与最佳实践，可帮助您迅速上手使用并继续学习更深入的知识。我们提供从基础到高级的全方位培训，并有点播、直播和虚拟三种方式选择，让您可以按照自己的日程安排学习时间。各项认证可以帮助您核实并证明您在 Google Cloud 技术方面的技能与专业知识。

本手册的最后更新时间：2025 年 3 月 25 日

本实验的最后测试时间：2025 年 3 月 25 日

版权所有 2025 Google LLC 保留所有权利。Google 和 Google 徽标是 Google LLC 的商标。其他所有公司名和产品名可能是其各自相关公司的商标。