GSP1327

概要

Google Cloud Platform の Model Armor は、ユーザー プロンプトと LLM の回答の両方をスクリーニングし、有害なコンテンツ、プロンプト インジェクション、機密データの漏洩などのリスクを検出して、AI の安全性を高めます。AI アプリケーションのセキュリティ ポリシーを一元的に管理および適用するために使用でき、インタラクションが安全で規制に準拠していることを保証するフィルタとして機能します。このサービスは、Security Command Center と連携して一元的な可視化を実現し、AI モデルの不正な公開や操作を防止します。

このラボでは、Model Armor を使用してプロンプトと回答をサニタイズする方法を学びます。

目標

このラボでは、次の能力を実証していただきます。

• Model Armor API を有効にする。
• Model Armor テンプレートを作成する。
• 各種のコマンドを実行して、さまざまなセキュリティ機能についてユーザー プロンプトをサニタイズする。

設定と要件

[ラボを開始] ボタンをクリックする前に

こちらの説明をお読みください。ラボには時間制限があり、一時停止することはできません。タイマーは、Google Cloud のリソースを利用できる時間を示しており、[ラボを開始] をクリックするとスタートします。

このハンズオンラボでは、シミュレーションやデモ環境ではなく実際のクラウド環境を使って、ラボのアクティビティを行います。そのため、ラボの受講中に Google Cloud にログインおよびアクセスするための、新しい一時的な認証情報が提供されます。

このラボを完了するためには、下記が必要です。

• 標準的なインターネット ブラウザ（Chrome を推奨）

注: このラボの実行には、シークレット モード（推奨）またはシークレット ブラウジング ウィンドウを使用してください。これにより、個人アカウントと受講者アカウント間の競合を防ぎ、個人アカウントに追加料金が発生しないようにすることができます。

• ラボを完了するための時間（開始後は一時停止できません）

注: このラボでは、受講者アカウントのみを使用してください。別の Google Cloud アカウントを使用すると、そのアカウントに料金が発生する可能性があります。

ラボを開始して Google Cloud コンソールにログインする方法

1. [ラボを開始] ボタンをクリックします。ラボの料金をお支払いいただく必要がある場合は、表示されるダイアログでお支払い方法を選択してください。 左側の [ラボの詳細] ペインには、以下が表示されます。

   • [Google Cloud コンソールを開く] ボタン
   • 残り時間
   • このラボで使用する必要がある一時的な認証情報
   • このラボを行うために必要なその他の情報（ある場合）

2. [Google Cloud コンソールを開く] をクリックします（Chrome ブラウザを使用している場合は、右クリックして [シークレット ウィンドウで開く] を選択します）。

   ラボでリソースがスピンアップし、別のタブで [ログイン] ページが表示されます。

   ヒント: タブをそれぞれ別のウィンドウで開き、並べて表示しておきましょう。

   注: [アカウントの選択] ダイアログが表示されたら、[別のアカウントを使用] をクリックします。

3. 必要に応じて、下のユーザー名をコピーして、[ログイン] ダイアログに貼り付けます。

   {{{user_0.username | "Username"}}}

   [ラボの詳細] ペインでもユーザー名を確認できます。

4. [次へ] をクリックします。

5. 以下のパスワードをコピーして、[ようこそ] ダイアログに貼り付けます。

   {{{user_0.password | "Password"}}}

   [ラボの詳細] ペインでもパスワードを確認できます。

6. [次へ] をクリックします。

   重要: ラボで提供された認証情報を使用する必要があります。Google Cloud アカウントの認証情報は使用しないでください。 注: このラボでご自身の Google Cloud アカウントを使用すると、追加料金が発生する場合があります。

7. その後次のように進みます。

   • 利用規約に同意してください。
   • 一時的なアカウントなので、復元オプションや 2 要素認証プロセスは設定しないでください。
   • 無料トライアルには登録しないでください。

その後、このタブで Google Cloud コンソールが開きます。

注: Google Cloud のプロダクトやサービスにアクセスするには、ナビゲーション メニューをクリックするか、[検索] フィールドにサービス名またはプロダクト名を入力します。

タスク 1. Model Armor API を有効にする

Model Armor を使用するには、Model Armor API を有効にする必要があります。

1. Google Cloud コンソールで、「Cloud Shell をアクティブにする」をクリックします。

2. 次のコマンドを実行します。

PROJECT=$(gcloud config get-value project) gcloud services enable modelarmor.googleapis.com --project=$PROJECT

[進行状況を確認] をクリックして、目標に沿って進んでいることを確認します。 Model Armor API を有効にする

タスク 2. Vertex AI Workbench でノートブックを開く

1. Google Cloud コンソールのナビゲーション メニュー（）で、[Vertex AI] > [ワークベンチ] の順にクリックします。

2. インスタンスを見つけて、[JupyterLab を開く] ボタンをクリックします。

Workbench インスタンスの JupyterLab インターフェースが新しいブラウザタブで開きます。

注: JupyterLab にノートブックが表示されない場合は、次の追加手順でインスタンスを再設定してください。

1. JupyterLab のブラウザタブを閉じて、Workbench のホームページに戻ります。

2. インスタンス名の横にあるチェックボックスをオンにして、[リセット] をクリックします。

3. [JupyterLab を開く] ボタンが再度有効になったら、1 分待ってから [JupyterLab を開く] をクリックします。

タスク 3. ノートブックを設定する

1. ファイルを開きます。

2. [Select Kernel] ダイアログで、使用可能なカーネルのリストから [Python 3] を選択します。

3. ノートブックの「Getting Started」（スタートガイド）セクションと「Import libraries」（ライブラリのインポート）セクションをすべて実行します。

   • [Project ID] に を使用し、[Location] に を使用します。

注: 「Colab only」（Colab のみ）と記載されているノートブック セルの実行は省略できます。 いずれかのノートブック セルの実行で 429 応答が返される場合は、1 分待ってから再度セルを実行し、次に進んでください。

タスク 4. Model Armor テンプレートを作成する

このタスクでは、Model Armor テンプレート ma-template を作成して、AI インタラクションのセキュリティとコンテンツ フィルタリング ルールを定義します。このテンプレートにより、機密データの漏洩を検出して軽減するためのポリシーを規定し、データ保護基準への準拠を確保することができます。

ノートブックの「Create a Model Armor Template」（Model Armor テンプレートを作成する）セクションの手順を実行し、指定されたフィルタ構成を使用して の場所に ma-template を作成します。完了したら、ここに戻って進行状況を確認し、目標に沿って進んでいることを確認します。

注: [進捗状況を確認] ボタンをクリックする前に、ノートブック ファイルを保存してください。

[進行状況を確認] をクリックして、目標に沿って進んでいることを確認します。 Model Armor テンプレートを作成する

タスク 5. Model Armor でユーザー プロンプトを検証する

このタスクでは、さまざまなユーザー プロンプトをテストし、事前定義された Sensitive Data Protection（SDP）infoType に基づいて、Model Armor がさまざまな種類のセンシティブ データをどのように検出し、スクリーニングするかを評価します。このプロセスにより、Model Armor が不正なデータ漏洩を効果的にフィルターして防止できるようになります。

ノートブックの「Validating User Prompts with Model Armor」（Model Armor でユーザー プロンプトを検証する）セクションの手順を実行し、さまざまなセキュリティ機能についてユーザー プロンプトをサニタイズする各種のコマンドを実行します。完了したら、ここに戻って進行状況を確認し、目標に沿って進んでいることを確認します。

注: [進捗状況を確認] ボタンをクリックする前に、ノートブック ファイルを保存してください。

1. Model Armor が責任ある AI をスクリーニングするためのユーザー プロンプトを入力します。

[進行状況を確認] をクリックして、目標に沿って進んでいることを確認します。 責任ある AI をスクリーニングするためのユーザー プロンプトを入力する

2. Model Armor が悪意のある URI をスクリーニングするためのユーザー プロンプトを入力します。

[進行状況を確認] をクリックして、目標に沿って進んでいることを確認します。 悪意のある URI をスクリーニングするためのユーザー プロンプトを入力する

3. Model Armor が DLP をスクリーニングするためのユーザー プロンプトを入力します。

[進行状況を確認] をクリックして、目標に沿って進んでいることを確認します。 DLP をスクリーニングするためのユーザー プロンプトを入力する

4. Model Armor が DLP をスクリーニングするためのモデルの回答を入力します。

[進行状況を確認] をクリックして、目標に沿って進んでいることを確認します。 DLP をスクリーニングするためのモデルの回答を入力する

5. 指定されたファイル形式のユーザー プロンプトを Model Armor を使用してサニタイズするために、ファイルベースのプロンプトを実行します。

[進行状況を確認] をクリックして、目標に沿って進んでいることを確認します。 ファイル形式をサニタイズするためのファイルベースのプロンプトを実行する

お疲れさまでした

Model Armor テンプレートを作成する課題を完了し、さまざまなユーザー プロンプトを実行して、異なる Sensitive Data Protection（SDP）infoType をスクリーニングしました。

マニュアルの最終更新日: 2025 年 11 月 25 日

ラボの最終テスト日: 2025 年 11 月 25 日

Copyright 2026 Google LLC. All rights reserved. Google および Google のロゴは Google LLC の商標です。その他すべての企業名および商品名はそれぞれ各社の商標または登録商標です。