GSP1327

概览

Google Cloud 上的 Model Armor 可对用户提示和 LLM 回答进行筛查，有效防范有害内容、提示注入和敏感数据泄露等风险，从而增强 AI 的安全性。它支持组织对其 AI 应用的安全政策进行集中管理和强制执行，发挥过滤器的作用，以确保交互安全且合规。此服务与 Security Command Center 相集成，可实现统一的可视化管理，并有助于防止 AI 模型遭到未经授权的泄露或篡改。

在本实验中，您将探索如何使用 Model Armor 清理提示及其回答。

目标

本实验将考验您是否具备执行以下任务的能力：

• 启用 Model Armor API。
• 创建 Model Armor 模板。
• 执行各种命令，针对不同的安全功能清理用户提示。

设置和要求

点击“开始实验”按钮前的注意事项

请阅读以下说明。实验是计时的，并且您无法暂停实验。计时器在您点击开始实验后即开始计时，显示 Google Cloud 资源可供您使用多长时间。

此实操实验可让您在真实的云环境中开展实验活动，免受模拟或演示环境的局限。为此，我们会向您提供新的临时凭据，您可以在该实验的规定时间内通过此凭据登录和访问 Google Cloud。

为完成此实验，您需要：

• 能够使用标准的互联网浏览器（建议使用 Chrome 浏览器）。

注意：请使用无痕模式（推荐）或无痕浏览器窗口运行此实验。这可以避免您的个人账号与学生账号之间发生冲突，这种冲突可能导致您的个人账号产生额外费用。

• 完成实验的时间 - 请注意，实验开始后无法暂停。

注意：请仅使用学生账号完成本实验。如果您使用其他 Google Cloud 账号，则可能会向该账号收取费用。

如何开始实验并登录 Google Cloud 控制台

1. 点击开始实验按钮。如果该实验需要付费，系统会打开一个对话框供您选择支付方式。右侧是实验设置和访问权限面板，其中包含以下内容：

   • 打开 Google Cloud 控制台按钮
   • 您在本实验中必须使用的临时凭证（用户名和密码）
   • 帮助您逐步完成该实验所需的其他信息（如果需要）

   请注意，实验计时器位于页面顶部附近，将显示剩余时间。

2. 点击打开 Google Cloud 控制台（如果您使用的是 Chrome 浏览器，请右键点击并选择在无痕式窗口中打开链接）。

   该实验会启动资源并打开另一个标签页，显示“登录”页面。

   提示：可以将这些标签页分别放在不同的窗口中，并排显示。

   注意：如果您看见选择账号对话框，请点击使用其他账号。

3. 如有必要，请复制下方的用户名，然后将其粘贴到登录对话框中。

   {{{user_0.username | "<用户名>"}}}

   您也可以在实验设置和访问权限面板中找到“用户名”。

4. 点击下一步。

5. 复制下面的密码，然后将其粘贴到欢迎对话框中。

   {{{user_0.password | "<密码>"}}}

   您也可以在实验设置和访问权限面板中找到“密码”。

6. 点击下一步。

   重要提示：您必须使用实验提供的凭证。请勿使用您的 Google Cloud 账号凭证。 注意：在本实验中使用您自己的 Google Cloud 账号可能会产生额外费用。

7. 依次点击进入后续页面：

   • 接受条款及条件。
   • 由于这是临时账号，请勿添加账号恢复选项或双重身份验证。
   • 请勿注册免费试用。

片刻之后，系统会在此标签页中打开 Google Cloud 控制台。

注意：如需访问 Google Cloud 产品和服务，请点击导航菜单，或在搜索字段中输入服务或产品的名称。

任务 1. 启用 Model Armor API

您必须先启用 API，然后才能开始使用 Model Armor。

1. 在 Google Cloud 控制台中，激活 Cloud Shell。

2. 执行以下命令：

PROJECT=$(gcloud config get-value project) gcloud services enable modelarmor.googleapis.com --project=$PROJECT

点击检查我的进度以验证是否完成了以下目标： 启用 Model Armor API

任务 2. 在 Agent Platform Workbench 中打开笔记本

1. 在 Google Cloud 控制台的导航菜单 () 中，依次点击 Agent Platform > Notebooks > Workbench。

2. 找到 实例，然后点击打开 JupyterLab 按钮。

Workbench 实例的 JupyterLab 界面会在新浏览器标签页中打开。

任务 3. 设置笔记本

1. 打开 文件。

2. 在选择内核对话框中，从可用内核列表中选择 Python 3。

3. 运行笔记本的开始使用和导入库部分。

注意：您可以跳过任何标为“仅限 Colab”的笔记本单元。如有笔记本单元在执行时遇到 429 响应，请等待 1 分钟，然后再次运行该单元以继续操作。 注意：如果笔记本中出现关于单元 1 缺少项目“environment”标记的通知，您可以直接忽略。

任务 4. 创建 Model Armor 模板

在此任务中，您将创建一个名为 ma-template 的 Model Armor 模板，用于为 AI 交互定义安全和内容过滤规则。此模板将建立相关政策来检测并缓解敏感数据暴露风险，从而确保符合数据保护标准。

运行笔记本的创建 Model Armor 模板部分，使用所提供的过滤配置在 位置创建 ma-template。完成后，返回此处查看您的进度并验证目标。

注意：在点击检查我的进度按钮之前，请确保您已保存笔记本文件。

点击检查我的进度以验证是否完成了以下目标： 创建 Model Armor 模板

任务 5. 使用 Model Armor 验证用户提示

在此任务中，您将测试各种用户提示，以评估 Model Armor 如何根据预定义的 Sensitive Data Protection (SDP) infoType 来检测和筛查不同类型的敏感数据。此流程有助于确保 Model Armor 有效过滤并防范未经授权的数据暴露。

浏览笔记本的使用 Model Armor 验证用户提示部分，并执行各种命令，针对不同的安全功能清理用户提示。完成后，返回此处查看您的进度并验证目标。

注意：在每个实例中点击检查我的进度按钮之前，请确保您已保存笔记本文件。

1. 输入用户提示，让 Model Armor 进行 Responsible AI 筛查。

点击检查我的进度以验证是否完成了以下目标： 输入用户提示以进行 Responsible AI 筛查

2. 输入用户提示，让 Model Armor 筛查恶意 URI。

点击检查我的进度以验证是否完成了以下目标： 输入用户提示以筛查恶意 URI

3. 输入用户提示，让 Model Armor 进行数据泄露防护 (DLP) 筛查。

点击检查我的进度以验证是否完成了以下目标： 输入用户提示以进行数据泄露防护筛查

4. 输入模型回答，让 Model Armor 进行数据泄露防护筛查。

点击检查我的进度以验证是否完成了以下目标： 输入模型回答以进行数据泄露防护筛查

5. 运行清理基于文件的提示子部分中的单元，以执行基于文件的提示。该操作会通过 Model Armor 对指定文件格式的用户提示进行清理。

点击检查我的进度以验证是否完成了以下目标： 清理基于文件的用户提示

恭喜！

您已成功完成创建 Model Armor 模板的挑战，并通过输入不同的用户提示，对各种 Sensitive Data Protection (SDP) infoType 进行了筛查。

上次更新手册的时间：2026 年 5 月 18 日

本实验最后测试时间：2026 年 4 月 22 日

版权所有 2026 Google LLC 保留所有权利。Google 和 Google 徽标是 Google LLC 的商标。其他所有公司名和产品名可能是其各自相关公司的商标。