GSP1327

概要

Google Cloud の Model Armor は、ユーザー プロンプトと LLM の回答の両方をスクリーニングし、有害なコンテンツ、プロンプト インジェクション、機密データの漏洩などのリスクを検出して、AI の安全性を高めます。AI アプリケーションのセキュリティ ポリシーを一元的に管理および適用するために使用でき、操作が安全で規制に準拠していることを保証するフィルタとして機能します。このサービスは、Security Command Center と連携して一元的な可視化を実現し、AI モデルの不正な公開や操作を防止します。

このラボでは、Model Armor を使用してプロンプトと回答をサニタイズする方法を学びます。

目標

このラボでは、次の能力を実証していただきます。

• Model Armor API を有効にする。
• Model Armor テンプレートを作成する。
• 検査テンプレートと匿名化テンプレートを使用して Sensitive Data Protection を構成する。
• さまざまなセキュリティ機能に対してユーザー プロンプトをサニタイズするための各種コマンドを実行する。

設定と要件

[ラボを開始] ボタンをクリックする前に

こちらの説明をお読みください。ラボには時間制限があり、一時停止することはできません。タイマーは、Google Cloud のリソースを利用できる時間を示しており、[ラボを開始] をクリックするとスタートします。

このハンズオンラボでは、シミュレーションやデモ環境ではなく実際のクラウド環境を使って、ラボのアクティビティを行います。そのため、ラボの受講中に Google Cloud にログインおよびアクセスするための、新しい一時的な認証情報が提供されます。

このラボを完了するためには、下記が必要です。

• 標準的なインターネット ブラウザ（Chrome を推奨）

注: このラボの実行には、シークレット モード（推奨）またはシークレット ブラウジング ウィンドウを使用してください。これにより、個人アカウントと受講者アカウント間の競合を防ぎ、個人アカウントに追加料金が発生しないようにすることができます。

• ラボを完了するための時間（開始後は一時停止できません）

注: このラボでは、受講者アカウントのみを使用してください。別の Google Cloud アカウントを使用すると、そのアカウントに料金が発生する可能性があります。

ラボを開始して Google Cloud コンソールにログインする方法

1. [ラボを開始] ボタンをクリックします。ラボの料金をお支払いいただく必要がある場合は、表示されるダイアログでお支払い方法を選択してください。 右側の [ラボの設定とアクセス] パネルには、以下が表示されます。

   • [Google Cloud コンソールを開く] ボタン
   • このラボで使用する一時的な認証情報（ユーザー名とパスワード）
   • このラボを行うために必要なその他の情報（ある場合）

   ラボのタイマーはページの上部に表示され、残り時間が示されます。

2. [Google Cloud コンソールを開く] をクリックします（Chrome ブラウザを使用している場合は、右クリックして [シークレット ウィンドウで開く] を選択します）。

   ラボでリソースがスピンアップし、別のタブで [ログイン] ページが表示されます。

   ヒント: タブをそれぞれ別のウィンドウで開き、並べて表示しておきましょう。

   注: [アカウントの選択] ダイアログが表示された場合は、[別のアカウントを使用] をクリックします。

3. 必要に応じて、下のユーザー名をコピーして、[ログイン] ダイアログに貼り付けます。

   {{{user_0.username | "Username"}}}

   [ラボの設定とアクセス] パネルでもユーザー名を確認できます。

4. [次へ] をクリックします。

5. 以下のパスワードをコピーして、[ようこそ] ダイアログに貼り付けます。

   {{{user_0.password | "Password"}}}

   [ラボの設定とアクセス] パネルでもパスワードを確認できます。

6. [次へ] をクリックします。

   重要: ラボで指定された認証情報を使用する必要があります。ご自身の Google Cloud アカウントの認証情報は使用しないでください。 注: このラボでご自身の Google Cloud アカウントを使用すると、追加料金が発生する場合があります。

7. その後のページはクリックして先に進みます。

   • 利用規約に同意します。
   • 一時的なアカウントなので、復元オプションや 2 要素認証プロセスは設定しないでください。
   • 無料トライアルには登録しないでください。

しばらくすると、このタブで Google Cloud コンソールが開きます。

注: Google Cloud のプロダクトやサービスにアクセスするには、ナビゲーション メニューをクリックするか、[検索] フィールドにサービス名またはプロダクト名を入力します。

タスク 1. Model Armor API を有効にする

Model Armor を使用するには、Model Armor API を有効にする必要があります。

1. Google Cloud コンソールで、Cloud Shell をアクティブにします。

2. 次のコマンドを実行します。

PROJECT=$(gcloud config get-value project) gcloud services enable modelarmor.googleapis.com dlp.googleapis.com --project=$PROJECT

[進行状況を確認] をクリックして、目標に沿って進んでいることを確認します。 Model Armor API を有効にする

タスク 2. Agent Platform Workbench でノートブックを開く

1. Google Cloud コンソールのナビゲーション メニュー（）で、[Agent Platform] > [Notebooks] > [ワークベンチ] をクリックします。

2. インスタンスを見つけて、[JupyterLab を開く] ボタンをクリックします。

Workbench インスタンスの JupyterLab インターフェースが新しいブラウザタブで開きます。

タスク 3. ノートブックを設定する

1. ファイルを開きます。

2. [Select Kernel] ダイアログで、使用可能なカーネルのリストから [Python 3] を選択します。

3. ノートブックの「Getting Started」セクションと「Import libraries」セクションを実行します。

注: 「Colab only」と記載されているノートブック セルは実行を省略できます。 いずれかのノートブック セルの実行で 429 の応答が返される場合は、1 分待ってから再度セルを実行し、次に進んでください。 注: ノートブックでセル 1 のプロジェクト「environment」タグが見つからないという通知が表示された場合は、無視して構いません。

タスク 4. Model Armor テンプレートを作成する

このタスクでは、Model Armor テンプレート ma-template を作成して、AI 操作のセキュリティとコンテンツ フィルタのルールを定義します。このテンプレートにより、機密データの漏洩を検出して軽減するためのポリシーを規定し、データ保護基準への準拠を確保することができます。

ノートブックの「Create a Model Armor Template」セクションの手順を実行し、指定されたフィルタ構成を使用して の場所に ma-template を作成します。完了したら、ここに戻って進行状況を確認し、目標に沿って進んでいることを確認します。

注: [進捗状況を確認] ボタンをクリックする前に、ノートブック ファイルを保存してください。

[進行状況を確認] をクリックして、目標に沿って進んでいることを確認します。 Model Armor テンプレートを作成する

タスク 5. 検査テンプレートと匿名化テンプレートを使用して Sensitive Data Protection を構成する

このタスクでは、Cloud Sensitive Data Protection（DLP）の検査テンプレートと匿名化テンプレートを作成し、advancedConfig を使用して、高度な Model Armor テンプレート ma-sdp-template にリンクします。これにより、AI プロンプトとレスポンスのサニタイズにカスタム検査ルールと自動データ マスキングを使用できます。

1. ノートブックの「Configure Sensitive Data Protection with Inspect and De-identify Templates」セクションを実行して、ma-inspect-template と ma-deidentify-template を作成します。

2. セルを実行して、advancedConfig を使用して高度な Model Armor テンプレート ma-sdp-template を作成します。

3. モデルのレスポンスのサニタイズをテストして、機密性の高い infoType が匿名化されていることを確認します。

注: [進行状況を確認] ボタンをクリックする前に、ノートブック ファイルを保存してください。

[進行状況を確認] をクリックして、目標に沿って進んでいることを確認します。 検査テンプレートと匿名化テンプレートを使用して Sensitive Data Protection を構成する

タスク 6. Model Armor でユーザー プロンプトを検証する

このタスクでは、さまざまなユーザー プロンプトをテストし、事前定義された Sensitive Data Protection（SDP）infoType に基づいて、Model Armor がさまざまな種類の機密データをどのように検出し、スクリーニングするかを評価します。このプロセスにより、Model Armor が不正なデータ漏洩を効果的にフィルタして防止することを確認できます。

ノートブックの「Validate user prompts with Model Armor」セクションの手順を実行し、さまざまなセキュリティ機能に対してユーザー プロンプトをサニタイズする各種コマンドを実行します。完了したら、ここに戻って進行状況を確認し、目標に沿って進んでいることを確認します。

注: 各インスタンスの [進捗状況を確認] ボタンをクリックする前に、ノートブック ファイルを保存してください。 注: sanitizationMetadata 出力に表示される、フィルタ バージョン V1 が LEGACY に移行することに関する WARNING メッセージは無視してかまいません。これは、今後のフィルタのバージョニングに関する Model Armor からの情報提供サービス通知であり、エラーを示すものではなく、ラボの実行に影響するものでもありません。

1. Model Armor で責任ある AI をスクリーニングするためのユーザー プロンプトを入力します。

[進行状況を確認] をクリックして、目標に沿って進んでいることを確認します。 責任ある AI をスクリーニングするためのユーザー プロンプトを入力する

2. Model Armor で不正な URI をスクリーニングするためのユーザー プロンプトを入力します。

[進行状況を確認] をクリックして、目標に沿って進んでいることを確認します。 不正な URI をスクリーニングするためのユーザー プロンプトを入力する

3. Model Armor でデータ損失防止（DLP）をスクリーニングするためのユーザー プロンプトを入力します。

[進行状況を確認] をクリックして、目標に沿って進んでいることを確認します。 DLP をスクリーニングするためのユーザー プロンプトを入力する

4. Model Armor で DLP をスクリーニングするためのモデルの回答を入力します。

[進行状況を確認] をクリックして、目標に沿って進んでいることを確認します。 DLP をスクリーニングするためのモデルの回答を入力する

5. 「Sanitize file-based prompts」サブセクションのセルを実行して、Model Armor を使用して指定されたファイル形式のユーザー プロンプトをサニタイズするファイルベースのプロンプトを実行します。

[進行状況を確認] をクリックして、目標に沿って進んでいることを確認します。 ファイルベースのユーザー プロンプトをサニタイズする

タスク 7. ログ エクスプローラで Model Armor ログを表示する

このタスクでは、Cloud Logging で Model Armor のサニタイズ オペレーション ログを検査して、プロンプトと回答のスクリーニングの詳細、フィルタの一致、評価メタデータを確認します。

1. Google Cloud コンソールのナビゲーション メニューで、[Monitoring] > [ログ エクスプローラ] をクリックします。

2. [クエリ] ペインに次のログクエリを入力します。

modelarmor

3. 期間フィルタ（[クエリを実行] の右側）が [直近の 1 時間] に設定されていることを確認します。

4. [クエリを実行] をクリックします。

5. 返されたログエントリを調べて、Model Armor のサニタイズ結果とフィルタ評価の詳細を確認します。

お疲れさまでした

このラボでは、Model Armor テンプレートの作成、Sensitive Data Protection の検査テンプレートと匿名化テンプレートの構成、プロンプトとモデルの回答の実行による機密データのスクリーニングと匿名化、ログ エクスプローラでのサニタイズログの表示を行いました。

マニュアルの最終更新日: 2026 年 8 月 24 日

ラボの最終テスト日: 2026 年 8 月 24 日

Copyright 2026 Google LLC. All rights reserved. Google および Google のロゴは Google LLC の商標です。その他すべての企業名および商品名はそれぞれ各社の商標または登録商標です。